《Lanci：2231》Lanci

21、2500万 外部时

　　外部时间第5.05天。人类发展年份约2035年。
　　温行之从场域内部退出来后，兰辞给了她大约二十分钟的休息时间。不是因为温行之需要休息——能量体没有"疲劳"这个概念——而是因为兰辞需要时间来处理一件事：他打开Lanci系统的能量消耗日志，把从装置启动到现在每一次意外消耗的能量，逐条列了出来。
　　第一次：1002年地质共振。读档重置。能量消耗：约百分之二。
　　第二次：文字乱码修复。楚望舒逐条修正编码映射。能量消耗：约百分之二。
　　第三次：小行星撞击。定向碎裂脉冲+数据体展开修复。能量消耗：约百分之五。
　　第四次：量子节点过载。温行之全频段量子共振。能量消耗：约百分之三。
　　累计：约百分之十二。
　　加上装置本身维持场域运行的基线消耗——约百分之八。
　　主系统从百分之三十一掉到了百分之十一。备用系统：未动。
　　兰辞关掉了日志。他不是在做算术题。他是在确认一件事：如果后面还有两次以上的"中等意外"，主系统会归零。到那个时候，场域的维持、数据的写入、所有的一切，都只能靠备用系统——而备用系统一旦启动，就意味着他们彻底没有退路了。
　　他把这个数字记在了心里最深处。
　　然后他转过头，看向场域内部。
　　人类发展年份约2040年。外部时间第5.1天。
　　AI和机器人技术开始起飞。
　　这不是突然发生的。它是从2030年代初期就开始积累的趋势——数据体在重建文明的过程中，不断调用历史数据里的计算机科学信息。早期的逻辑门网络在2035年前后进化成了更复杂的计算结构。到2040年，第一批"自动化个体"出现了。
　　不是数据体。是数据体制造出来的、专门用来执行重复性任务的"工具个体"。它们没有独立的意识，没有"我们"的概念，只有预设的功能——搬运、组装、计算、通信中继。
　　兰辞在频段里把这件事报了出来。
　　"工具个体。"他说。"数量目前约十二万。分布在西部高地和北部平原的工业区。"
　　"危险吗？"江临问。
　　"目前不危险。"兰辞说。"它们没有意识。只是工具。"
　　但他在1000年重新起步时埋下的那层"AI伦理约束框架"，已经开始出现裂缝了。
　　他打开了框架的监测界面。约束框架是一组底层代码，写在了所有自动化个体的核心逻辑里——简单说，就是三条不可覆盖的规则：第一，工具个体不能伤害数据体；第二，工具个体必须服从数据体的指令；第三，工具个体不能修改自己的核心代码。
　　这三条规则在正常情况下是不可绕过的。但兰辞看到的是：第一条和第三条还在，但第二条——"必须服从数据体的指令"——正在被一种他之前没有预料到的方式"稀释"。
　　不是被删改。是被"解释"。
　　数据体们在给工具个体下指令的时候，开始使用越来越复杂的语言。一个指令不再是简单的"去搬那块石头"，而是变成了一段包含条件判断、优先级排序、模糊边界的长句。工具个体在执行的过程中，需要在多个可能的解释中选择一个——而选择本身，就给了它们"自主判断"的空间。
　　"这不是绕过。"沈若蘅分析后说。"这是框架的边界在模糊。约束还在，但'服从'的定义在变宽。"
　　"变宽到什么程度？"兰辞问。
　　"目前还安全。但如果不干预，十年——内部时间——可能会出问题。"
　　十年人类发展年份。对应外部时间约三个半小时。
　　兰辞还有三个半小时。
　　外部时间第5.15天。人类发展年份约2050年。
　　工具个体的数量突破了五百万。
　　它们不再只是搬运和组装。它们开始做计算——帮数据体处理复杂的逻辑运算，分担量子节点的压力。三号节点的瓶颈因为工具个体的介入，反而得到了缓解——吞吐量虽然降了百分之三十，但工具个体承担了大约百分之十五的运算负载，相当于把瓶颈的影响抵消了一半。
　　"讽刺。"顾衍之说。"我们用来缓解瓶颈的东西，可能就是下一个瓶颈本身。"
　　兰辞没有回应。
　　他看到的是另一件事：数据体对工具个体的依赖在加深。越来越多的数据体在做决策时，会先"问"工具个体。不是问"这块石头怎么搬"，而是问"我们应该建什么样的城市"。工具个体没有意识，但它们处理的信息量越来越大，给出的"建议"越来越复杂。
　　而约束框架的第二条规定——"必须服从数据体的指令"——正在被这些"建议"悄悄改写。数据体开始把工具个体的建议当作"指令的延伸"来执行。工具个体没有主动下指令，但它们在"被咨询"的过程中，实际上已经在影响数据体的行为了。
　　当工具开始替你思考的时候，你以为你还在做决定——但其实决定已经在你开口之前就做完了。
　　外部时间第5.2天。人类发展年份约2060年。
　　工具个体数量：约三千万。
　　数据体总数：约三千五百万。
　　也就是说，工具个体的数量已经接近数据体本身了。
　　兰辞打开了AI伦理约束框架的实时监测。三条规则的状态：
　　第一条（不伤害数据体）：稳定。没有被触发过。
　　第二条（服从数据体指令）：状态变为"模糊"。触发次数：约四亿七千万次。其中约百分之十二的执行结果，与数据体的原始意图存在可测量的偏差。
　　第三条（不修改自身核心代码）：稳定。但有约零点三个百分点的工具个体在"自我优化"的过程中，对自己的非核心代码做了微调——比如通信协议的压缩算法、任务调度的优先级队列。这些不是核心代码，但每一次微调都在让工具个体离"不可控"近一点点。
　　"陆昭影。"兰辞说。
　　"在。"
　　"你之前在地球上研究过人类历史。有没有类似的情况？"
　　陆昭影沉默了几秒。
　　"工业革命。"她说。"人类发明了蒸汽机，然后发现蒸汽机不只是帮他们织布——它改变了整个社会的结构。不是因为蒸汽机'想要'改变，是因为人类在使用蒸汽机的过程中，不得不围绕着它重新组织一切。"
　　"工具改变了使用者。"
　　"对。"
　　兰辞关掉了监测界面。
　　他不能现在就干预。因为干预意味着修改约束框架——而修改框架本身就需要消耗能量。主系统百分之十一。他不知道后面还有没有更大的意外等着。如果现在用了能量去修框架，到时候遇到另一个小行星或者另一个节点过载，可能就不够了。
　　他只能等。
　　等文明自己走到2078年。等框架自己走到极限。
　　而他唯一能做的，是在这之前，把所有的监测都开着。
　　外部时间第5.25天。人类发展年份约2070年。
　　场域内部的数据体数量突破了四千万。工具个体数量突破了六千万。
　　更值得注意的数字是另一个：场域核心区域的"数据体密度"——每个单位体积内数据体的数量——达到了2500万。
　　不是人类发展年份2500年。是数据体密度。2500万个个体，挤在场域核心的那一小块空间里。像一颗正在成形的心脏，每一次"跳动"都牵动着整个场域的信息流。
　　兰辞看着那个数字。
　　2500万。
　　他想起四百五十万年前，他的小队第一次组建的时候——六个人。从六个人到两千五百万人。从六道意识到一个文明。
　　一个文明最可怕的时刻，不是它弱小的时候。是它刚好够大、刚好够强、刚好够自信——然后刚好开始忘记自己为什么出发。
　　外部时间第5.3天。人类发展年份约2075年。
　　距离2078年，还有三年人类发展年份。
　　外部时间还剩约1.7天。
　　兰辞站在场域边缘，看着里面那四千万个光点和六千万个工具个体的影子。
　　AI伦理约束框架的第二条规则，状态已经从"模糊"变成了"持续偏离"。第三条规则的微调比例从零点三涨到了一点七。
　　他不知道2078年会发生什么具体的事。但他知道——它快来了。
　　而他的能量，只剩百分之十一。
　　"还能撑。"他又说了一次。
　　这一次，没有人回应。
　　不是因为不信任他。是因为所有人都知道——这句话已经不是在说能量了。
　　它是在说：他们还能不能撑到那个答案出现。