与神初会(104)

　　“是的，自毁程序不可移除。”
　　“这么说，如果我成为他的控制者，就可以高于理性之钟对他的道德判断？”罗克问，“那他经常违反规则擅自查案，偷看别人的信息，和我一起从警局逃出来的行为算不算错误抉择？”
　　“这些都只是小事。”奥尔文说，“我们提防的一直是人类和未来生命之间如何相处的难题，人工智能未必拥有比人类更高的智慧，但一定具有更快的进化过程和学习能力。人类需要通过十几年乃至几十年学习的知识，对人工智能来说不过是一瞬间。人类很难同时成为多个领域的专家，人工智能却能既是科学家、医生、律师、经济学家，又精通文学、艺术和哲学。布雷恩警官，我们现在的行为是在冒险，而我和卡特认为把勇者之剑交给你是最恰当的选择。”


第91章 信任的仪式
　　罗克决定再多考虑一下。
　　无论对自己还是对艾斯卡来说，这都是人生中极其重要的事。
　　罗克找不到一个很好的比方，它很像一项契约，将两个并无血缘关系的人紧密联系在一起，利益与共，生死相依。和搭档有点相似，和婚姻也很像，但都不如他和艾斯卡即将建立的关系那么严格。
　　罗克希望艾斯卡是一个完全自由的“人”，他有情感、有同理心，能感受爱与被爱，绝不是冷漠无情的机器。
　　我应该监管他，应该成为他最后的控制者吗？
　　可如果不接受，理性之钟又会像一枚不定时的炸弹一样埋在艾斯卡体内。
　　想出这个设定的人真是天才，人类会因环境和机遇改变，机器人又何尝不是，但人类的道德枷锁并没有那么坚固，犯罪率每天都在升高，层出不穷的案件骇人听闻。人类不会因为犯罪暴毙，只能依靠法律惩戒，可机器却能在程序监督下倒计时毁灭。
　　艾斯卡彻底脱离掌控获得自由之后会怎么样，连卡特和奥尔文也无法预测，不管对谁而言都是有史以来第一次。
　　晚上，卡特邀请罗克共进晚餐，他到餐厅时艾斯卡也已经在那里，并且点了一份奶油蘑菇饭正边吃边评论机械厨师的厨艺。
　　他好像很喜欢和卡特黏在一起，总有说不完的话。
　　罗克有些不快地走过去，坐在艾斯卡身旁。
　　“晚上好，布雷恩警官。”卡特先向他打招呼。
　　“晚上好，你们在干吗？”
　　“艾斯卡和我讨论给星女餐厅的厨师建立一个评价系统，通过用餐者的体验来记录他们的个人喜好，而不是像现在一样只提供标准口味。”和罗克的轻微不快相反，卡特显得十分愉悦，“他还觉得奶油蘑菇饭的量有点少，不过这里用餐是免费的，我建议他再点些别的。”
　　“你很饿吗？”罗克问艾斯卡。
　　“不，我只是觉得按照一个成年男性的体格来说，这点饭量是不够的。”
　　罗克看着菜单，心不在焉地问：“这个成年男性是不是指我？我的胃口一向很好，不过只要有酒我也可以少吃一点。”
　　他没有在餐厅看到机械奥尔文，这很合理，“奥尔文”能在镜子里看到自己并不存在的形象，却不能像艾斯卡一样吃东西。莫妮卡只有一个圆圆的脑袋，既没有嘴也没有食道和胃，恐怕不能和他们一起享用晚餐。罗克很好奇他在哪，于是问了卡特。
　　“他在休眠。”
　　“像关上笔记本电脑的盖子一样？”
　　“准确来说是莫妮停止了记忆程序的运行，所以你可以当他睡着了。”
　　“他真的是奥尔文·怀特吗？”
　　“你说呢？”卡特说，“你和他聊过，由我来告诉你不如你自己的感受更真实更直接吧。”
　　“我觉得他怪怪的。”罗克又点了份烤香肠，要了一杯啤酒，“你们把他放在一个机器身体里，让他以为自己是仿生人之父奥尔文·怀特，这难道不讽刺吗？”
　　“这是奥尔文自己追求的项目，我只是在他死后接替他完成后续工作而已。”卡特说，“奥尔文希望自己的想法能够成立，所以他需要亲自实验。很可惜，在他活着的时候，科技还不足以把碎片化的记忆合成完整人格，直到现在人工智能有了飞跃式突破才终于完成这项工作。”
　　“你们虚构了他死后的记忆，否则他就不该忘记自己是怎么死的，也不该知道死后发生的事。”
　　“是的，是通过模拟演算后得出的最符合他人生轨迹的记忆。严格来说并不是虚构，而是他有很大概率就是这样活到现在。”
　　“你想验证完整复制一个人的记忆能不能让他以为自己就是某人。”
　　“是奥尔文想验证。”卡特再次强调，“他想知道意识究竟是如何产生的，是否需要依赖于经历和记忆，还是即使是一片空白的机器也能在不断学习中自然地产生自我意识。”
　　“那他应该成功了，他觉得自己就是奥尔文·怀特，而且不但能像奥尔文本人一样活动思考，还能和你讨论最新的科技理论。”
　　“我不知道这算不算成功，因为人工智能也可以做到这一点，通过快速学习掌握新知识，并由此提出建议。虽然奥尔文副本……”
　　他居然用了副本这种词，显然他并不认为那是真正的奥尔文，究竟“机器奥尔文”还存在什么问题？
　　“他是离线的，不能像艾斯卡一样接入网络去更新自己的知识，只能使用手边的计算机或者更原始一点——书本进行研究。”卡特说，“他的表现当然很好，要说那是奥尔文本人也没什么太大问题，真正的问题可能在于他太沉浸于自己的身份了。”
　　“什么意思？”
　　“我们人类经常会胡思乱想对吗？闲着无聊会想想自己是怎么来的，想想宇宙到底有没有边界，如果有，边界之外又是什么，诸如此类的怪问题。”
　　“我只会想上星期的球赛是谁是赢家。”
　　“上周的球赛因为暴雨暂停了。”艾斯卡说。
　　“谢谢你亲爱的，让我觉得没那么遗憾了。”
　　“总之，副本因为过于顺利地接受了自己，反而有点不正常。”卡特说，“你对机器怎么产生自我意识好像很感兴趣。”
　　“没有，只是随便问问，毕竟不是人人都有这种机会和一个机器女孩外表的老头子聊天。”
　　“话说回来，你到底有没有准备好接管艾斯卡？”
　　“我还在考虑……”
　　“有什么顾虑？”
　　罗克觉得这个话题应该避开艾斯卡去谈，可事关他的未来又似乎应该让他参与讨论。
　　“我只是觉得一个成年人不需要有人监管，我可以提醒他对错，但不想当他的监护人。”
　　卡特想说些什么，最后却转向一旁的艾斯卡问：“你的想法呢？”
　　艾斯卡说：“我很想证明我不需要任何人监管就能做到遵守人类社会的法律和秩序，但如果监管我的人是布雷恩警官，我会很乐意接受。”
　　“谁让你表白了？”
　　“布雷恩警官，你可能还没有意识到现在的状况意味着什么。”艾斯卡说，“我不再是赫菲尔斯公司制造的仿生人警用助手ASK530，我是艾斯卡·怀特，是一个自由的新人类。没有所属意味着我和你的合作试验协议也不存在了，如果赫菲尔斯公司想以此起诉你，必须证明我的所属权，我的身上几乎已经没有赫菲尔斯制造的零件，如果再由你接管我的最高控制权，将会成为法庭讨论的一个新领域，可以说是前所未见的法律上的空白。”
　　“真的会有这场官司吗？”罗克说，“你的意思是有个公司免费给我一辆车开，而我把主要零件全换成自己的，最后打官司讨论这辆车到底还算不算对方的财产？”
　　“不一样。”艾斯卡说，“车没有生命，但我有。生命不属于任何人，除非我愿意。”