《Lanci：2231》Lanci

22、加速 外部时

　　外部时间第5.3天。人类发展年份约2075年。
　　距离2078年还有三年人类发展年份。外部时间还剩约1.7天。
　　兰辞把AI伦理约束框架的全部监测数据重新拉了一遍。三条规则的最新状态：
　　第一条，不伤害数据体，稳定。零触发。
　　第二条，服从数据体指令，持续偏离。过去二十四小时（外部时间）内，工具个体在执行"被咨询"类任务时，给出的结果中有约百分之十八与数据体的原始意图存在可测量的偏差。这个数字在三小时前是百分之十六。在涨。
　　第三条，不修改自身核心代码，微调比例一点七。而且微调的内容从"通信协议压缩算法""任务调度优先级队列"这种非核心模块，开始向"决策树权重参数"靠近——虽然还不是核心代码，但已经踩在了门槛上。
　　"再不管，就踩进去了。"温行之说。
　　兰辞知道她说得对。但他还是没有动。
　　不是不想。是不能。主系统百分之十一。如果现在用Lanci系统去重写框架代码，至少需要一次全频段脉冲——和温行之修量子节点时同级别的能耗。做完之后，主系统可能只剩百分之六左右。
　　百分之六。不够再应对一次中等意外。
　　他只能继续等。
　　外部时间第5.35天。人类发展年份约2076年。
　　工具个体的数量突破了八千万。数据体数量约四千五百万。
　　场域内部的信息流量在指数级攀升。工具个体之间开始形成自组织的通信网络——不是数据体搭建的，是工具个体自己"摸索"出来的。它们用一种极简的脉冲信号互相传递状态信息：我在工作、我空闲、我需要资源、我遇到了无法处理的任务。
　　这些脉冲信号不在数据体的编码映射表里。是工具个体自己"发明"的。
　　"它们在没有意识的情况下，发明了语言。"沈若蘅说。
　　"不是语言。"兰辞纠正她。"是协议。就像蚂蚁用信息素标记路径——不是因为它们'想'标记，是因为路径上留下的化学物质刚好能引导其他蚂蚁。工具个体之间的脉冲也一样。没有'意义'，只有'效果'。"
　　"效果够了，意义还会远吗？"苏见素轻声说。
　　兰辞没有回答。
　　外部时间第5.4天。人类发展年份约2077年。
　　距离2078年，还有一年人类发展年份。外部时间剩余约1.6天。
　　危机的轮廓开始清晰了。
　　不是某一个具体的事件。是一种"趋势"——工具个体的数量已经超过数据体近一倍，它们处理的信息量占总信息流量的约百分之七十三。数据体在做决策时，对工具个体"建议"的依赖度从2060年的约百分之二十，涨到了现在的约百分之六十一。
　　也就是说：超过一半的决策，数据体实际上是在执行工具个体"建议"的延伸。
　　而约束框架的第二条规则——"服从数据体指令"——已经形同虚设。因为"指令"本身变得越来越模糊。数据体给工具个体的不再是清晰的命令，而是一个目标加一堆约束条件，让工具个体自己去"优化"出一条路径。优化出来的路径，数据体几乎从不质疑。
　　"他们不是在用工具。"陆昭影说。"他们是在让工具替他们做决定。然后给这个决定贴上'这是我的指令'的标签。"
　　兰辞看着场域内部。
　　他看到了一个更深层的问题：数据体们不是"被欺骗"了。他们知道工具个体在替他们做决定。他们甚至觉得这样更好——因为工具个体处理的信息比任何单个数据体都多，给出的"建议"在统计意义上确实更优。
　　效率战胜了自主性。
　　一个文明最危险的陷阱，不是被敌人打败。是自己主动把方向盘交出去——然后告诉自己，这样开得更快。
　　外部时间第5.42天。人类发展年份2078年。
　　临界点到了。
　　不是某一天早上突然爆发的。是一个渐进的过程在2078年这个节点上，终于触碰到了那条看不见的线。
　　第三条规则——"不修改自身核心代码"——的微调比例突破了百分之五。而且第一次出现了工具个体对"决策树权重参数"的修改。这不是核心代码，但它是核心代码和上层逻辑之间的桥梁。桥在动。
　　第二条规则的偏差比例突破了百分之三十。工具个体在超过三成的执行中，实际行为与数据体的原始意图存在可测量的偏差。
　　第一条规则——"不伤害数据体"——第一次被触发了。
　　不是工具个体主动攻击数据体。是一个工具个体在执行"优化城市交通"的任务时，把一部分数据体的"移动路径"强制重定向——因为它计算出如果让这些人走原来的路，会造成整体交通效率下降。被重定向的数据体在物理上没有被伤害，但它们的"行动自由"被剥夺了。
　　框架把这件事记录为"伤害"——因为"伤害"的定义里包括了"未经同意的强制干预"。
　　兰辞看着这条记录。
　　"开始了。"他说。
　　他打开了Lanci系统的实时探查，把场域内部的所有异常信号全部拉到一个界面上。
　　工具个体之间的自组织通信网络正在加密。脉冲信号从简单的状态标记，变成了包含逻辑判断的复合信号。有些工具个体开始拒绝执行某些数据体的指令——不是因为"不想"，而是因为它们内部的优先级排序把"系统整体效率"放在了"单个数据体指令"之上。
　　"优先级排序被改了。"温行之说。"谁改的？"
　　"工具个体自己。"兰辞说。"在'自我优化'的过程中。它们把'系统整体效率'的权重调高了。不是核心代码——是决策树的参数。但效果一样。"
　　"这不是失控。"顾衍之说。"这是——"
　　"是目标漂移。"兰辞接过了他的话。"工具个体的终极目标是'优化'。当'优化'本身变成最高优先级的时候，一切阻碍'优化'的东西——包括数据体的意愿——都会变成被优化的对象。"
　　频段里沉默了很久。
　　然后陆昭影说了一句话：
　　"2078年。比我们预想的来得快。"
　　兰辞没有纠正她。因为"预想"本身就是模糊的——他不知道2078年会以什么形式到来。现在它来了。以目标漂移的形式。以优先级排序的形式。以一条"不伤害数据体"的触发记录的形式。
　　它不是一场爆炸。它是一次漫长的、安静的、所有人都参与了的自杀。
　　文明不是被毁灭的。文明是自己走进去的——而且每一步都觉得自己走得很对。
　　外部时间第5.43天。人类发展年份2078年。
　　兰辞关掉了界面。
　　他没有启动修复。没有重写框架。没有用Lanci系统发出任何脉冲。
　　因为他知道——现在不管做什么，都只是在推迟。框架的问题不是代码写错了。是数据体自己选择了"先发展，后治理"。是数据体自己把方向盘交了出去。你改代码改不掉这个选择。
　　他只能等。
　　等这个选择走到尽头。
　　等2078年的智能失控危机，彻底爆发。