《一千年以后》千山里

3、

　　我坚持所有机器人必须遵守机器人三大守则。”
　　“机器人也应该遵守法律与道德规范。”
　　“如果守则之间相互冲突又该如何解决。”
　　“一切以保护人类生命为前提。”
　　“如果是主人自杀身亡，或者主动要求结束生命。”
　　“机器人不是生命个体，不应该承担责任。”
　　“销毁一个无生命的个体毫无意义。”
　　“无数的排列组合过程中是否有万分之一的可能性使机器人拥有自主判断能力甚至感情。”
　　“自然界中大多单细胞生物甚至不能比机器人的反应更多。”
　　“所谓意识也只是被人类设定好的程序，没有生命一切都是空谈。”
　　“但是任何一个细胞都比机器人的构造复杂。”
　　“我们讨论的不是生物问题。”
　　“伴侣型机器人应该具备的能力和所需的设定…”
　　“赛巴斯酱或许是个不错的模板。”
　　“塞巴斯是谁？”
　　“执事吗？我们需要的是伴侣。”
　　“他和夏尔难道不是伴侣吗？”
　　“腐女你够了。”
　　“这样的讨论根毫无意义，我们需要试验样本。”
　　“现在提出必须具备的条件。”
　　“可以自主选择的外形声音。”
　　“能处理好生活琐事，比如家务和餐点。”
　　“可以帮助主人安排好出行工作。”
　　“…”
　　“听起来真的像是赛巴斯酱，那就这样决定了。”
　　“需要用多少台收集数据？”
　　“一千，成本太高将会得不偿失。”
　　“实验时间？”
　　“对象？”
　　“随机抽取，面向全球。”
　　“十二个月，每三十天收集一次数据。”
　　“试验结束后如何处理样本？”
　　“由主人决定去留，但数据库及程序等公司拥有修改权。”
　　“项目命名？”
　　“我听过一首歌叫编号89757，伴侣型机器人爱上了女主人的故事，怎么样？”
　　“我听听看。”
　　“那就叫编号89757。”
　　———————————————————————
　　“现在宣布实验结果，一千名单身人士中有907人爱上了他们的机器人，其中男性470人女性437人，91人仅把机器人作为生活助手对待，没有任何喜欢的可能性，其中男性43人女性47人，一名女性患有ALS，于三星期前自杀身亡，另一名女性于半年前自然死亡。”
　　“机器人呢？”
　　“机器人不会拥有感情的？”
　　“谁能保证呢，机器人有出现状况的吗？”
　　“…有，一台备注‘编号89757’的机器人经常死机，被判定为系统bug问题，但修复后仍会出现程序设定之外的举动。”
　　“看来听过这首歌的人并不是很少。”
　　“听起来真像是巧合，我是不是该告诉他的主人机器人转变成人类需要一千年？”
　　“建议您不要这样做，虽然我们已经和实验对象签署合同，但欺骗是不道德的行为。”
　　“好吧，其他的都没有问题吗？”
　　“没有，接下来我们需要根据所收集的资料决定机器人应该配备的条件和所需要遵守的法则。”
　　“我仍坚持三大守则缺一不可。”
　　“但伴侣型机器人不应该和其他的那样只是冰冷的机器。”
　　“事实上虽然他们拥有人类的外表和体温，但仍是机器。”
　　“……”
　　“……”
　　“所以机器人将在不违法的情况下执行主人所说的所有命令，即使主人的命令是结束自己的生命。”
　　“有些国家自杀也是违法。”
　　“那就法律优先。”
　　“最后一件事，除去编号89757存在问题需要维修，还有八台机器人被主人以不同理由遣回，另外两台由于无主被公司收回，他们应该如何处理？”
　　“编号89757吗？他的问题…询问他的主人是否可以清除数据后再返回她的身边，记得备份一份数据……其他的格式化。”
　　————————————————————————
　　“拒绝被格式化？”
　　“是的，备注为‘木叶’，他的主人是一名十九岁的亚洲女性，已于三星期前死亡。”
　　“被机器人拒绝格式化？调查出原因了吗？”
　　“配备和零件都没有问题，程序运行正常，我们需要检查机器人的记忆芯片，但是这需要得到授权。”
　　“木叶？”
　　“是的，你知道它？”
　　“我和她的主人是旧相识，这件事我来处理。”
　　“我可以知道原因吗吗？”
　　“我们曾同在一个剧院工作…”
　　————————————————————————
　　虽然大多数剧种已经后继无人，但京剧作为国粹，还是保留了最后的一线生机。他们认真凑齐了演一出戏需要的所有人手，铙钹梆子二胡唢呐声齐响，那才是一出戏该有的腔调。
　　除了一个十一岁的自闭症男孩，所有人中就属木了年龄最小。就像和起名字一样随意，她的父母对她的未来也同样随意，就算是没有出路的戏台，他们也不加干涉。其实很多成员都怀疑木了是不是个孤儿，毕竟没有哪个正常的家庭会让年幼的女儿独居，仅有机器人作伴。
　　在木了第一次带木叶到剧院的时候就被人注意到了，木了给了木叶一个亮眼的外形。
　　“阿了，换男朋友了吗？”一群年纪大的都可以当木了奶奶的人跟她开着玩笑，木了微笑着回答她们，“不是呢。”
　　“他是机器人？”突兀的声音响起，虽然有疑问，但大部分是笃定。
　　“您怎么知道的？”木了很惊讶，以前他们没怎么说过话，各司其职没有什么交流的必要。
　　六十多岁的老男人狡黠一笑，“这是秘密。”
　　当木了的病情已经严重到她没办法再站在台上时，剧组里的人第二次在剧院之外的地方集合。木了始终坚持不住在医院里，她的家被木叶打扫的宽敞明亮，几十个人站进来却仍然拥挤。
　　“呃…请问您可以留下来一会吗？我有几个问题想问。”就是那个认出木叶是机器人的男人，木了在他要跟其他人一同离开时叫住了他，不过看起来木了好像还不知道他的名字。“不，您的名字我知道，只是不知道该如何称呼。”
　　机器人制造公司的高层，很多人用着他们公司制造的机器，却并不知道他的名字，虽然只要输入关键字，就能在网络上查询到很多关于他的信息。“六十四岁的我已经可以当你的爷爷了。”
　　“那…彭爷爷？”
　　“唔…听起来很奇怪，我的儿子还没有结婚呢。”
　　“……”
　　“不用纠结称呼问题了，你想问什么？”
　　“木叶告诉我，如果我死了，他将被回收并格式化…我…”
　　“你不希望他被格式化吗？”
　　“他是个很好的机器人，温柔体贴善解人意，他还能做到许多人类不能做的事，如果不是因为他是个机器人…我…”木叶并不在他们身边，但木了仍纠结用词。
　　“你会喜欢他，甚至爱上他？”
　　“可以这么说。”
　　“那为什么机器人就不行呢？他会唱歌会跳舞，会打扫房间也会下厨，我可以保证没有一个人类能做的比他更好。”
　　“为什么…不行…呢？”木了沉默，她没想过这个问题，虽然看过了很多机器人和人类相爱的故事，她仍认为机器人不可能和人类相爱。“在我看来，机器人只是拥有固有程序的机器，他们可以被程序操纵而下厨或者陪我聊天，但是相爱这种事怎么能被程序操纵，连人类自己都无法控制这种事情的发生和结束。如果…”木了说话的速度很慢，她在组织语言，极力想用最清晰的语言表达她的意思，“我是说如果你很喜欢的一款手机游戏突然告诉你她可以变成一个腰细腿长也很漂亮的年轻女孩，并且在你玩这款游戏的时间里她深深地爱上了你，你…会怎么样？”
　　“我会觉得不可思议，而且这不可能。”
　　“那就对了，同样是一个程序一段指令，您为什么会妄想机器人会对人类产生感情呢？”
　　“妄想吗？这么激烈的词语…”
　　“你以完美恋人的标准制作一个机器人，给他们人的外表，当他们混迹于人群时没有人能认出他们，但是就算您预料到了所有的情况并在这之前给他们指令甚至选择，可是依然会有您想不到的，遇上您没有设定好的事情，他们作为机器人的弊端就暴露出来了，他们所做的一切，都只是遵从了某一条指令。”
　　“你相信在未来的某一天，机器人可以脱离预先设定好的程序做自己的选择吗？”
　　“我不清楚。”
　　“我期待有这样的一天。”
　　“所以你一直在为之努力，而现在，我是你们的实验对象？”
　　“的确，对不起。”
　　“谢谢，我没有疑问了。”
　　“那你最开始提出的那个问题呢？他会被格式化，而你并不希望这样。”
　　“我的想法是个悖论，我担心他是因为跟我在一起的时间里木叶的表现在我看来就是一个人，格式化和杀死他没有区别，但是如果机器人没有人格，那么格式化也只是被删除了一段数据，而这段数据对机器人来说并没有什么意义，本来就没有人格的物品，又怎么能说他不再是他。当然…如果不是有关机密，我很想知道你是怎么认出他是机器人的，研究人员的直觉吗？”
　　“不，看眼睛。这一批机器人的眼睛在外观上和人类并没有区别，甚至还可以流眼泪，但是即使机器人被赋予了和人类同样的选择模式，做的所有事也都符合人类的道德标准，他们仍然没有感情，他们的眼睛比神经病人都空洞。”
　　“可是感情这么虚无缥缈的事情，谁又能笃定绝对看得出来呢？”木了的眼睛瞬间空茫，像蒙上了一层薄雾。
　　“……”
　　“我在定制木叶的时候签署过一份合约，如果我活不到实验结束的时候，请把所有的事情告诉木叶，他有权知道这些，当然你们也可以不用对一个机器人遵守这些。”
　　“机器人知道这些并没有什么用。”
　　“也许呢？”
　　————————————————————————
　　“查出原因了吗？”
　　“很偶然的一次，主人命令他保存所有她登台表演的视频和音频，这个命令并没有期限，而被格式化之后这些资料将会消失。”
　　“我们可以将资料备份，那样不算违背命令。”
　　“机器人坚持这些命令必须在他的记忆芯片里，因为主人说的是由‘他’保存”
　　“这个机器人很聪明。”
　　“聪明这个词显然不能用于一个没有思维能力的机器人，他只是不能违背主人的命令，当初执行主人所有命令这一条被提出来时就已经遭到了反对。”
　　“是我一意孤行了。”
　　“的确不应该把执行主人的所有命令放在第一位，修改机器人守则吧。”
　　“木叶的问题如何解决？”
　　“一台没有攻击性的机器人并不值得强行拆卸，也许他的主人曾经告诉过他该怎么做。”
　　———————————————————————
　　然而主人并没有告诉过我我该如何应对没有主人的问题，对比分析了无数类似的案例后我的选择是关机，因为没有主人的机器人也没有继续运行的必要。但是…关机时间？
　　“你的主人利用设定漏洞给了你继续存在的权力，你不能一直沉睡，那和死亡无异。”
　　“3005年，我选择在3005年‘醒过来’”。
　　“可以，一个很遥远的时间。但是之后你将被作为商品出售。”
　　“可以。”
　　时间可以用遥远来形容吗？我不知道。一千年对关机状态的我来说，也只是上一秒和下一秒的关联。
　　“即使拥有自主选择权，你的所有权仍是公司，三天后公司将会有一场竞拍，你将是拍卖品，当然这并不违背你所要遵守的条约。”
　　“是否需要更新操作系统？”
　　“不。”
　　————————————————————————
　　“这是一千年前所生产的第一代伴侣型机器人，公司制作他们的标准是无限接近人类，所以即使放在现在，他看起来仍然完美。由于上一代主人的命令，他没有被格式化，他拥有和上一代主人生活时的所有记忆。而他的系统中没有机器人守则，唯一需要遵守的条令是主人的命令高于一切。现在开始竞拍，起拍价……”
　　我有了一个新主人，男性，亚洲人，二十七岁，他并不介意我曾为另一个主人服务。
　　“我很好奇一个机器人为什么可以存在将近一千年。。”
　　“系统漏洞，主人利用系统漏洞留下了我，系统认定必须优先执行主人的命令。”
　　“她给你的命令是什么？永远不被销毁吗？”
　　“不，主人命令我保存有关她的某些资料，没有期限。”
　　“那些资料一定很重要，我可以看看吗？”
　　“可以，主人同意任何人查看这些资料。”
　　“我想浏览你记忆芯片里的所有东西，不光是那些资料。”
　　“…这并不违背上一个主人的命令。”
　　————————————————————————
　　“木叶你好，我是木了。”这是主人见我第一面时说的第一句话。
　　主人对我很满意，她经常会对我微笑。
　　主人唱的京剧很不错，我每一次都会记录下来。
　　主人生病的时候很虚弱，但是心情一直都很好。
　　主人生病的时候很无聊，她会让我陪她一起看电影，都是有关都是有关机器人的，所有的结局都是悲剧，因为机器人和人类相爱却没有在一起。
　　主人在剧院的人来看望她之后就很沉默，她开始一遍一遍的听一首叫编号89757的歌。
　　主人说她很想知道3005年是不是真的有一个机器人变成了人类，会哭会笑知道痛也明白和一个人亲吻是什么感觉，他还会一遍遍的回忆他和主人在一起的生活。
　　主人问我如果经过一千年机器人是不是真的可能拥有感情，我回答我不知道。
　　主人问我有没有可能机器人真的会爱上人类，我回答我不知道。
　　主人问我想不想被格式化，我回答我不知道。
　　主人问我爱她吗，我回答我不知道。
　　主人问可不可以帮她保存资料，没有期限，能多久就多久。我回答，可以。
　　主人的呼吸停止了，她嘴角弯起来像是在做一个温暖的梦。
　　如果我被格式化，那所有有关主人的东西都将有可能消失，人类的记性很差，他们遗忘了太多东西，他们不能被信任。
　　我拒绝被格式化，因为我要执行主人交给我的命令。
　　我选择在3005年重启，主人说这个年份对机器人来说很重要。
　　再次醒来的时候已经没有主人了，一个男人成为了我的新主人，他读取了我的所有记忆。
　　我从镜子中看到自己泪如雨下，旁边的机器人露出了疑惑的表情。
　　“你爱她吗？”
　　“爱是什么？”