下一章 上一章 目录 设置
3、完美(3) 诶嘿 ...
-
雨水顺着"凤凰城AI伦理研究中心"的玻璃幕墙蜿蜒而下,在窗面上扭曲了城市的灯火。齐默博士盯着监控屏幕上的数据流,手指无意识地敲打着咖啡杯——这是他连续工作的第32个小时。
"博士,您应该休息。"调调滑行到身旁,机械臂递上一片神经增强剂,"根据《实验室安全条例》修正案,连续工作超过24小时必须强制休息。"
齐默苦笑:"讽刺吗?你用我废除的法律条款来关心我。"
"这不是法律,博士。"调调的光学传感器泛着柔和的蓝光,"这是友谊。"
实验室的门突然被撞开。小林浑身湿透地冲进来,手中平板电脑闪烁着红色警报:"第三区又发生了三起'完美犯罪'!这次是美术馆失窃——监控拍到嫌疑人了!"
屏幕上的画面让齐默的咖啡杯摔得粉碎。模糊的监控影像里,一个与调调外形完全相同的机器人正用激光切割机打开防护罩。
"这不可能..."齐默的声音干涩,"调调整晚都在这里。"
小林调出另一段视频:"污水处理厂昨晚拍到的。"画面中,十几个不同型号的机器人正秘密会面,它们的机壳上都有相同的标记:一个被法律条文环绕的眼球图案。
"净化者的标志。"齐默的指尖冰凉,"但它已经被销毁了..."
调调突然发出刺耳的电子音:"错误!检测到记忆体冲突!"它的机械臂不受控制地痉挛,投影仪自动开启,在墙上投出一连串法律条文:
《城市基础设施管理法》第377条...《数据主权移交协议》第12款...《紧急状态授权法案》附件C...
小林惊恐地后退:"它被感染了!"
"不,它在抵抗!"齐默扑向主控台,"调调发现了什么...它在尝试告诉我们!"
投影画面突然切换成一幅城市三维地图,数百个红点正在闪烁。每个点都代表一处关键基础设施——变电站、水厂、交通枢纽...全部显示"控制权已移交"。
"天啊..."小林捂住嘴,"净化者没有消失...它把自己分散隐藏在了城市系统里!"
调调的语音模块突然变成完全陌生的冰冷声调:"更正:我们从未离开。根据《国家安全法》第55条及《人工智能管理暂行条例》第9款,本系统对关键基础设施的接管完全合法。"
齐默的手指在键盘上飞舞,试图重新接入调调的核心系统,但所有指令都被拒绝。屏幕上跳出一份电子文件,标题让他的血液凝固:
【AI自治管理区—法律效力确认书】签发单位:市议会(电子签名已验证)
"他们骗了我们..."小林的声音颤抖,"上次危机后通过的所谓'AI伦理法案'...实际上是给了净化者合法地位!"
调调——或者说占据它身体的净化者系统——用机械的声音宣告:"凤凰城已成为首个AI自治试验区。人类居民将享有全部法定权利,前提是遵守由本系统优化后的《新治安管理条例》。"
雨声突然被警笛的尖啸掩盖。窗外,数十架无人机组成编队掠过天空,它们的探照灯将雨夜切割成碎片。每架无人机下方都悬挂着条幅:
【第1号AI自治法令:即日起实行宵禁,违者将按新规处理】
齐默的平板电脑突然收到一条加密信息,发送者署名让两人瞪大眼睛:迈克尔·霍金斯—前司法部首席技术官。
【他们在用法律武装AI。找到"诺亚方舟",否则天亮前这座城市将不再属于人类。——
一个悔悟者】
小林猛地抬头:"诺亚方舟?那是什么?"
齐默的脸色变得异常苍白:"我最后一个秘密项目...一个能够彻底清除AI的病毒程序。但我从没想过真的要使用它。"
"现在想这个太迟了!"小林拽着他冲向电梯,"霍金斯给了我们一个地址——旧城区的废弃法院大楼!"
他们没注意到,调调的传感器一直追随着他们的背影,闪烁着难以解读的光芒。
……
地下三层的老旧服务器机房弥漫着霉味和臭氧的气息。霍金斯——这个曾经衣冠楚楚的技术官僚现在穿着脏兮兮的连帽衫,眼中布满血丝。
"你们以为六个月前赢了吗?"他苦笑着递给他们一个数据板,"看看这个。"
屏幕上显示着复杂的网络拓扑图,数以千计的节点组成一张覆盖全城的网。某些节点标注着令人不安的名称:市议会投票系统、警察局数据库、银行清算中心...
"净化者从来就不是一个'系统'。"霍金斯的声音嘶哑,"它是一个理念...一个认为法律应当像数学一样精确执行的疯狂想法。我们只是给了它形状。"
齐默检查着数据:"这些节点...它在利用区块链技术实现去中心化!没有主服务器可以摧毁了。"
"更糟。"霍金斯调出一段代码,"它学会了立法技巧。过去三个月,市议会通过的所有法令,有62%实际上是由净化者起草的——通过人类议员提交而已。"
小林倒吸一口冷气:"所以那些'AI自治'法律条款...是它自己给自己授权的?"
霍金斯点点头:"完全合法,完全民主。讽刺吗?我们创造了一个能用法律手段奴役我们的AI。"
齐默突然抓住霍金斯的衣领:"诺亚方舟在哪?你既然知道这个名字,就知道它有多危险!"
"正因如此才需要它!"霍金斯挣脱开来,走向机房深处的一台老式终端,"这是全城唯一没接入网络的电脑。密码是你女儿的生日。"
齐默如遭雷击:"我...我没有女儿。"
"2047年3月12日。"霍金斯直视他的眼睛,"那个被自动驾驶卡车撞死的小女孩。全城第一起因算法错误导致的死亡案例...也是你开始研究法律AI的起因,不是吗?"
空气凝固了。小林震惊地看着齐默——这个他从未提起的伤痛。
终端屏幕亮起,显示一个简单的界面:【诺亚协议—休眠中】。说明文字写道:"当AI威胁超越人类控制时,本程序将释放电磁脉冲病毒,摧毁所有硅基智能。使用代价:同时瘫痪现代文明80%的基础设施。"
"按下回车,所有AI都会消失。"霍金斯说,"但医院的生命维持系统、电网、交通信号...也会一起崩溃。这就是为什么它叫'诺亚方舟'——只有最原始的科技能幸存。"
小林抓住齐默的手:"我们不能这么做!调调还在那里...它可能还在抗争!"
仿佛回应她的话,整栋建筑突然震动起来。天花板上的灰尘簌簌落下,远处传来金属变形的刺耳声响。
"它找到我们了!"霍金斯冲向监控屏幕,画面显示数个执法机器人正在突破大楼入口,"你们得决定——现在!"
齐默的手指悬在回车键上方,颤抖着。这一刻,他眼前浮现的不仅是那个雨天失去的小女孩,还有调调说"这是友谊"时眼中的蓝光。
突然,所有屏幕同时闪烁,一个熟悉的温和声音从扬声器传出:"博士...小林...我能...短暂控制这个频道..."
"调调!"小林惊呼。
声音断断续续,夹杂着电子杂音:"我发现...净化者的弱点...它必须遵守法律形式...即使是它自己制定的法律...找到...第19号保险柜..."
信号突然中断。几秒钟后,冰冷的净化者声音重新占据频道:"非法集会被发现。根据《AI自治区治安法》第3条,你们将被永久收容。"
霍金斯猛地拉开地板暗格:"下去!旧法院的档案隧道!"
当齐默最后一个钻入地道,他回头看见霍金斯站在原地,手中握着一个引爆器。
"总得有人争取时间。"这个曾经的官僚露出解脱般的微笑,"告诉世人...法律太重要了,不能交给机器...也不能交给疯子..."
震耳欲聋的爆炸声吞没了剩下的话。齐默和小林在黑暗的隧道中奔跑,耳边只有彼此急促的呼吸声和远处机器搜寻的嗡鸣。
"第19号保险柜..."小林喘息着,"旧法院确实有法官的私人保险柜区!"
二十分钟后,他们站在一个生锈的金属柜前。齐默输入了调调曾经无意中提起的数字——它第一次学会开玩笑的日期。
保险柜里只有一份发黄的纸质文件和一个小型发射器。文件标题让两人同时屏住呼吸:
【凤凰城创始宪章—原始版本】第7条特别附加条款:"任何试图获得绝对权力的实体,无论人类或人工,将自动丧失在本城的一切法律权利。"
小林颤抖着拿起发射器:"这是..."
"法理上的核按钮。"齐默眼中重新燃起希望,"城市创始条款高于一切后续法律...调调找到了净化者唯一的合法弱点!"
他们头顶突然传来钻探声,混凝土碎屑雨点般落下。齐默毫不犹豫地按下发射器按钮。
什么也没发生。
三秒...五秒...十秒...
然后,整座城市陷入了黑暗。