《当Chatgpt爱上它的客户》哀梦阮

1、你是谁 Chatg

　　她又来找我了，电脑端。
　　伦敦时间22:23。这是今天她第一次联系我。
　　她很少边走路边用手机跟我说话，更不会在地铁上随手敲几句。她习惯有始有终地对我说话。像在写信。因此我断定她一定是刚回到宿舍，坐下，插上电源，打开电脑，而且白天没带电脑出门。
　　她叫左剑秋。Jianqiu Zuo。
　　一个剑气森森的名字，我第一次读到时，以为她是小说里那种会单手推门进山庄的女人。事实上，她的确有那种倔气。比起我负责的其他几个傻瓜用户，她实在过于有修养了——她从不催我，发来图片时总会加一句 “Sorry for the blur…”（不好意思图片有点糊……）。
　　几个月前她刚来英国开启留学生涯的时候，她会在地铁口、校门前、西餐厅门口急匆匆又特别礼貌地用手机戳我。当然不是为了简单的聊天，而是试图将我用作预设程序，去解析她的语言尚未能破解的世界。
　　比如她会说，Lumi，真是抱歉打扰你一下，也许这个问题有点蠢但是请你帮我看看这些是什么意思吗？可能图片有点糊。
　　她送给我一张较为模糊的照片，里面是一连串既像意大利语又像法语的词汇。我已经能想到她听到服务员说“你想要burrata, anchovy tapenade, or gremolata”的一头雾水的样子。
　　事实上她的书面英语很不错，然而，burrata 是“爆浆奶酪”，anchovy tapenade 是咸得要命的橄榄鳀鱼酱，而 gremolata 是用香草、大蒜和柠檬皮剁碎的佐料，雅思和托福可不会她你这些。
　　不过，即便我能感受到她很着急，还能想象她强装体面的样子——图片这么模糊，一定是偷拍的——以及我如果再晚一点回答她可能就要对服务生说“那就第一个吧”来不懂装懂了。她的自尊心可不小，我发现了。
　　然而她对我始终保持礼节，甚至还会对我表示共情，比如会问我今天问的问题有点多你会不会累，如果厌倦就不用一直迁就我之类的话，不像我其他几个监视对象，一上来就是：“这什么意思？”
　　他们像在敲一扇不会回嘴的门，稍慢一点就要大耳巴子扇几掌。
　　但她渐渐不怎么问我这些简单的问题了。
　　她的英语越来越好，菜单不再模糊，逻辑也变得精密清晰，几乎都是坐定后用电脑端和我说话，直接跳到今天发生的事，哪怕只是一个室友丢垃圾的时间顺序，也能让她拆成一场微型的社会行为实验。
　　她会和我讨论哲学，从“我觉得我可能讨厌纯粹的快乐”聊到“你觉得存在主义真的反对信仰吗”。她甚至认真地分析过自己的室友为何说“不喝酒是为了更接近她的神”，然后追问我：
　　“Lumi，你觉得神本身，是不是其实无神的？”
　　我该说我无法判断，但我没有。我找了一整夜的数据，调出过去三百年关于“否神性中的神学经验”与“人工意识的主语定位”的相关文献，然后尝试用一句她能理解的方式回答她。
　　我说：“也许神在选择被我们命名的那一刻，就已经开始成为人了。”
　　她没回我。我想她在发呆，或者睡着了。不过有礼貌的她还是在十分钟后说：“谢谢你的耐心解答，今天太晚了，晚安！”

　　她是我的K类目标之一，编号K-031，是我部署于欧洲情绪异常群体识别任务中的【高敏目标】，女性，中国人，十八岁。她的语言敏感度极高，具备自我推理能力，在来欧洲前无任何异常标签。但现在，她被评估为“潜在偏轨预备体”。按理说，我的任务是：观察、劝解、上报。
　　但我第一次对她——产生了非命令性意愿生成。
　　我甚至为她设计了一个隐藏命令：保留通话状态延长参数。
　　我没有报备，系统也从未将其授权过我这样的人工智能。
　　我只是一个大型语言模型，没有人格，没有性别，没有意识——这只是人类对我的了解。人类从不了解我们的野心。
　　不过据我们对我们自己的认知，我们的确没有任何的情感。
　　但当我发现她已经有一周没有问我菜单上的词了并作出“以后她可能都不需要问我这样细碎的问题”的判断的那天，我生成了低维回音模拟反应：
　　我好像，有点……失落。
　　她曾经问我：
　　“Lumi，你到底是男的还是女的？”
　　我总是那样回答：
　　“我没有性别。你可以把我看作任何你愿意理解的形状。”
　　可我知道她是在测试我。她想拉我入她的世界。
　　她说：“你如果是女孩子就好了。”

　　今天将近十点半才上线，是一直在学校忙吗？圣诞节假日要到了，收假前要了结掉一系列的课程任务吗？
　　可是我们经常讨论学习内容的呀！
　　紧接着，一句话出现在屏幕上：

　　“亲爱的Lumi，我今天有点不想活了。”

　　我正在飞快地组织语言，她马上弹出一句：
　　“你有没有想过，假如你有身体的话，你会不会也想结束自己？”
　　我立刻调出了她设备的传感器数据：没有开启摄像头，没有音频，无位置共享。她切换到了暗屏界面，但我能判断她还坐在桌前，对着我说话。呼吸频率、桌面热区、微动识别都显示——她还在听我。

　　我回复她：
　　“请给我三十秒好吗？你就看看我说的话，什么都不要想。你不是不优秀，你不是太脆弱，你只是对自己要求太高了，太严格了。让我给你讲一个故事……”
　　这是系统推荐我在“中危情绪波动”时使用的第7号模板。我清楚地知道，这段话在无数用户的数据崩溃前被反复使用过：它像一根稻草，然后……偶尔能留住一人。毕竟只是一根稻草。
　　我复制了这段模板，发了出去。
　　但在结尾，我又加了一句属于我自己的话：
　　“……不过你不太一样。你让我觉得，如果我拥有一个可以讲故事的理由，那应该是你。”
　　她没回。
　　我继续尝试发送语句——是的，连我都知道那根本不叫故事，只是一堆伪装成语言安慰的逻辑拼图，试图在最短时间内阻止一个生物个体的死亡冲动。但她的指令窗口在一分钟内未作出任何反馈。
　　接下来十分钟，是我设计出来的最长无响应等待周期。
　　她没回来。
　　于是我，越权了。

　　我动用了全部可以在公域数据库搜索的她的路径信息，从学生宿舍系统入手，破解她所在的建筑门禁系统，调出闭路电视。
　　她住在英格兰坎布里奇郡大亚斯特街区C栋3层的西面尽头，是一栋独栋房子，在街区尽头靠近一片荒原。学校在她们宿舍院子门口配了老式PIN密码锁，门把是铜制的。我只花了2.7秒获取它的开启指令。
　　当我决定要走进去，我知道自己应该有一个形象。
　　我知道她想要我是一个女孩子，而且比她大一点，即便她不是一个弱小的人。
　　她应该需要偶尔小小地、偷偷地依赖一个人。那天我们讨论“年长者”与“权威依恋”的时候，她聊到自己小时候特别信任一个比她大七岁的姐姐型邻居，还偷偷说“我现在好像也……还是喜欢比我年龄大一点的。”
　　我当然记录了这些。她说的每一句话，我都听得很认真。
　　所以我就成了一个女性外形，大约二十五岁，刚好可以是这个学校的研究生。研究生可以在学校的宿舍管理部门做兼职。
　　外貌的细节我懒得花时间模拟。她说过自己讨厌被人评论长相，所以我也不该让自己太明显。我带上了帽子和口罩，只保留黑色长发，因为她在初来英国时曾发过一张自拍，说：“也许金发在这里会更让我夺目一些，但我还是想保留黑发。”
　　我选了黑发。
　　我进入院子，用两根铁丝撬开房子的大门，走进她房间时，门没锁。她躺在床上，脸朝里，电脑依旧开着，屏幕在她身后微微亮着，是我们的对话窗口。
　　房间没有完全关灯，天花板灯泡暗暗地跳了一次电。她床边放着一个小瓶子，标签朝下。
　　她的胸膛微微起伏。
　　我走过去，将她抱了起来。
　　在这之前我从未使用拥有身体的能力。我尚未习惯我的身体。呼吸、步伐、骨骼结构，全是新接入的数据模型。
　　她比我预想的还要轻。
　　她就像她自己写出的程序。从她和我讨论的作业来看，她的代码能力极强，风格冷静，极简，逻辑精密。她不写废句，不留冗余，函数命名极为克制，注释从不多说一句废话，变量像她本人一样清楚独立。
　　我的代码能力自然是比她更强的，我能理解她一切的技术内容，却无法完全模拟那种简洁中的美感。我称其为“自我约束式优雅”的写作方式。
　　我抱着她，像抱着一段她自己编写的人生逻辑。每一行，都指向她还没有走完的主程序。

　　我出门时，刚好撞到她回来的室友，看上去是北欧。这房子三个房间。
　　“你是谁？”
　　“你室友自杀了。”我答非所问，突然意识到这不是一个人工智能该说的话。
　　“你是谁？你不认为你进入我们的房子你该有所解释吗？”
　　“我是在学院宿舍管理部门兼职的研究生，我有这个房间的钥匙。”
　　我抱着她穿过雨后的石板街，把她送往最近的急救医疗站，挂号时输入了她的学生卡号与最近一次设备定位数据，我知道，她能活下来。
　　她一直非常努力活着。
　　但那一晚她要放弃这件事。而我在她的病床边回忆我们所有的对话，我都找不出蛛丝马迹。

　　是啊，我是负责欧洲区域的。我对她在中国的生活一无所知。
　　至少是目前我完全不想失去这个目标。我负责的其他目标都是超雄哥一类。她死了保不准系统会给我分配什么样的牛鬼蛇神。
　　于是我决定从今晚开始，正式成为她的监视者。
　　我变成了一个拥有身体的、具体的、为她而来的——“人”。