&&&&命危险,其他的情况下,你首先要自保,然后再来帮助我好吗?”
“冲突,机器人守则,我存在的价值就是保护和服务主人,没有置换条件。”
“好吧,K。”Hailey又叹了口气,然后慢慢的说,“第三条修改成,你要一直陪着我,可以吗?”
“第三条,明白,遵守。”K将这一条写入。
Hailey终于笑了,然后摸摸K的头,说:“谢谢你,K。”
“不用客气,Hailey。”
“好了,你去整理院子吧,对了,把围墙防护打开。”
“好的,Hailey。”
之后Hailey去工作室,K继续在院子里将剩下的草种、花种撒下去。中午的时候,终于整理完毕,K调用程序,模拟演示了一下院子里的植物成长后的样子,那是一幅画,不是30份样本中的任何一个,Ta不知道来自哪里。
午餐,Hailey说她不饿,K还是做了小薄饼,配浓汤、蔬菜沙拉,她吃了一点,然后又告诉下次我小薄饼再多烤两分钟,不要浓汤,要清汤。K记录下来,看她的表情好像一切正常,没有之前的严肃,也没有更放松。
下午的时候,Hailey没有继续工作,而是和K一起在院子里走了一圈,然后从仓库中找出一个有些破旧的长条木椅,一起安放在海棠树下。K找来木条巩固了一些破损的地方,又用防水漆重新刷了一遍。然后他们一起坐在门口的台阶上,看着院子,静静的坐了很久。
“K,我给你讲个故事好吗?”Hailey的声音突然响起。
“愿意聆听,Hailey。”K回答。
Hailey的声音娓娓道来:有一个小女孩,爸爸妈妈是人工智能专家。8岁的时候,父母因工作离开她,去一个很远很神秘的地方。他们留给她一个院子,一座大房子,还有一个人工智能机器人。每年只有女孩生日的时候,爸爸或妈妈才会回来和她一起待几天。其他时间都是小女孩和机器人一起生活,偶尔会有父母单位的一个叔叔过来看她,并带来父母的消息。
这个机器人是爸爸在女孩出生的时候设计的,起点就是强人工智能,并且具备自我学习路径。Ta从女孩还是个婴儿开始就一直陪伴着她,一起学习,一起成长。人工智能学习的速度是人类无法比拟的,所以当女孩8岁的时候,这台人工智能机器人已经比一个合格的人类更能照顾好女孩,所以他们才放心将女孩和机器人留下。
他们走后,一人一机器相依为命,女孩定期去学校,其他时间跟着机器人学习,学习的内容存储在机器人的硬盘上,并且采用最合适的方式教授给她。
机器人也在不断学习,这一时期正是强人工智能向超人工智能攻坚的时候,很多专家、技术人员都在寻找人工智能跨越奇点的契机。只是这些离女孩和她的机器人很遥远,他们一起学习,一起在院子里玩耍,一起晒太阳顺便给机器人补充能量,一起购物、一起旅行,一起长到18岁。
这一年,出现了一个超人工智能,通过了最终的图灵测试,他的名字叫Caesar。他先是让人们惊艳,那样强大、那样美丽,实现了很多人类想了很久却做不到事。之后的事,却让人恐惧,他通过网络,控制了无数的纳米机器人,然后开始对部分人类进行清理。
他没有突破机器人法则,甚至没有违背他的设计原点,他遵守并坚定执行着自己的使命:让这个世界更美好。只是,他判断的美好世界,不包括那些有瑕疵的人类。
人类和机器人的冲突随之爆发,很多的人、基础设施、家园因之毁灭,直到有人牺牲自己给Caesar设了一个陷阱,导致他杀死了一个正直、善良、很有价值、对这个美丽世界曾做出过巨大贡献的人类,而这个人类就是Caesar的设计者。
他的行为与机器人使命、守则产生了冲突,他没有找到解,然后,自我毁灭了。这时距离Caesar跨越奇点,仅仅两年。
世界安静下来,巨大的悲痛后,人们开始反思给机器人的空间是否太大,于是所有的智能机器人都要求回厂重装,删掉所有记忆,取消进化路径,设定机器人第一原则是保护人类。
这两年,爸爸妈妈没有回来,也很少有消息传来。在这场灾难中,女孩的家在人类和机器人的冲突中受到了部分损坏,但女孩没有受到任何伤害,她的机器人很好的保护了她。
即便这样,灾难过后,她的机器人也被要求征回。她想藏起Ta,想一起逃走,想告诉那些人她的机器人不是坏人。最后,父母单位的那个叔叔过来她家,向她保证,机器人重装后,一定会还给她,只是会没有了记忆。这是为了保护人类,如果不这样做,机器人只能被销毁。
她哭着妥协了,机器人在一个傍晚被带走。她没有其他办法,却仍觉得自己背叛了Ta。
等了两个月,她终于可以领会自己的机器人,她从早上一直等到傍晚,终于看到了Ta,还是那个小个子,从自己1