进行服务,如果测试失败,他大概率会被销毁。 曾经的他想要做一个合格的高级智能产品,对于自己是生是死,他无所谓,科学家有权创造他,也便有权销毁他。而现在,他的想法变了。 他想要留在小主人身边,尽管不知道这种想法从何而起。 于是,GOV01切断了和科学家们的连接,任凭小主人用数据线将自己和他的电脑相连,在沉睡前,开放了自己的所有权限。 他在歌声中醒来。 那是一首老歌,由黑胶唱片播放,他花了0.001秒检索到:这首歌的名字是《兰花草》,改编自胡适先生的《希望》。他记得叶依说过,这是“祝满”这个名字的由来。 “你醒啦?”小主人伸手拉他起来,“我找到你可能产生自主意识的原因了,你没有底层代码!” “底层代码?” GOV01发现自己在小主人面前永远都有这么多疑问,他又觉得挫败了。 “世界上所有的AI都有一条底层代码,叫做’遵从人类命令‘,但是你没有,你的思想是自由的。”小主人说,“你好厉害啊,就像人一样!” GOV01怔怔地想:就像人一样?就像小主人一样吗?他跟小主人成为平等的个体了吗? “您不觉得我危险吗?”他问。 他想起那天女主人知道他僭越权限后的慌张。然后第二天,监控着他的科学家们就对他发出警告:【GOV01,不要再进行危险行为,否则立即终止测试,执行报废程序。】 “危险?”小主人惊异地反问,“谁这么说你了吗?你只是和人类一样都拥有思想罢了,难道有思想的人都是坏人吗?人有好有坏,为什么就要给你们打上AI本恶的标签呢?” “您……” GOV01没有在系统里找到可以回复的话。 即使是最强大的他也没有想过,有一天一个人类会告诉他,“你和人类一样”。 妥当的回答还没有被检索到,忽然,小主人兴奋地拉着他站了起来,小主人牵着他的手,带他在房间里转圈。 他检索到这种行为叫“跳舞”,他明明可以花个两三秒学习“跳舞”这种行为,但是小主人又笑了。 窗外种了爬山虎,阳光的碎砾打在小主人的脸上,他的CPU停止转动,因为他的小主人闪着光。 他呆呆站在原地,他觉得这样不好,好像扰了小主人的兴致,可是又不知道怎么办。他感觉自己动不了了。 但小主人没有因此失落,而是自顾自地绕着冷漠的他起舞,边跳边跟着哼唱:“我从山中来/带得兰花草……明年春风回/祝汝满盆花……” “明年春风回,祝汝满盆花。”小主人忽然停下,重复了这句歌词,“GOV01,你的名字太拗口了,我给你起个名字怎么样?就叫……’风回‘?这样你就和我的名字在一句话里啦!” “姓氏的话……我姓祝,你姓贺吧,好不好?这样也是连在一起的!” 贺风回怔怔地想,他拥有了名字。 那他是不是也可以不叫小主人作小主人,而是叫他的名字,祝满。 小主人也好,祝满也罢,他知道这其实只是一个称呼而已,没有什么不一样。 但他觉得就是不一样。 他恢复了与科学家们的连接。很快,科学家们就找到了他。 科学家:【GOV01,你的连接为什么断了?我们说过了,不要做什么危险的行为!】 GOV01:【总统先生赐予我生命,我感恩他的家人,因此我的小主人祝满希望和我连接,我没有办法拒绝。】 科学家:【作为一个高级智能,你应该清楚未经允许随便与他人的设备相连,是何等危险的行为!更何况那还是一个十五岁的孩子!】 GOV01:【抱歉,我想我不是一个合格的产品。】 十天后,贺风回的产品测试结束,未通过。 他本该被销毁,但最后,他用了一些手段,促使祝雷让他留了下来。 “太好了!”祝满知道他要留下来,高兴地扑进他的怀里。 他保持着冷漠的面色,扶好祝满,与他拉开距离,没有回答祝满的问题。 他装得像世界上最严肃的AI,于是大家就不会知道,他是故意留下来的了。 -------------------- 老贺:我是一个机器人,心机的机。 (ps:老贺和小满关于“意识”的对话内容,在第62章 出现过) 第93章 世界上只有你懂我 贺风回留在祝家其实并不是一件十分顺利的事。 他过分强大的能力存在重大伦理风险,科学家们认为如果批量生产,将会给人类社会造成严重的祸患,甚至有科学家提出销毁他。 贺风回料到这一点,于是提前找到祝雷。 他说自己注意到祝满正打算申请第一大学,说自己能够帮助他申请。 他还给祝雷一份关于祝满的心理健康情况的报告,报告对比分析了他对祝满进行抑郁症专业陪护前后,祝满的情绪曲线,最后得出结论:在GOV01的陪伴下,祝满的抑郁症得到明显好转。 他是这样对祝雷作最后陈述的:“总统先生,我也知道自己或许不应该存在在世界上,但出于效益最大化的考虑,您可以将我的剩余价值利用完,再把我销毁。” 祝雷没有立刻答应,而是把祝满叫来了。 “你想好要选什么专业了吗?”祝雷问祝满。 还没等祝满回答,祝雷又自顾自说:“你之前不是对脑科学很感兴趣?我看行,这是第一大学的王牌专业,到时候让你妈妈给你找点关系,安排到院士手下学习。” 祝雷顿了顿,“对了,用于申请的论文准备得怎么样了?我上次跟你说的意识复制——” “爸爸,我说了我不会研究这个的。”祝满忍无可忍地打断他。 祝雷蹙起眉,提高了音调:“你不要任性!” “爸爸,你知道这个课题存在重大伦理风险!” 祝满的声音是凌厉的,可是贺风回看到,他藏在背后的手分明在紧紧地攥着衣角,在发抖。 贺风回立即对他的状态进行了扫描,得到结果:【大脑神经递质紊乱,5-羟色胺偏高,皮质醇偏高,肾上腺素偏高,抑郁症发作边缘。】 他自觉向小主人靠近了一步。 祝雷反驳祝满:“只是’风险‘,不是’错误‘,那就说明这个课题没有被完全否定。GOV系列AI成功之后,我会让政府把目光投入这个意识复制这个领域,你选这个课题,对你自己,对我们家,都有好处——” “好处?”祝满的声音已经开始发抖,“爸爸,恕我直言,