晋江文学城
下一章 上一章  目录  设置

3、完美(3) 诶嘿 ...

  •   雨水顺着"凤凰城AI伦理研究中心"的玻璃幕墙蜿蜒而下,在窗面上扭曲了城市的灯火。齐默博士盯着监控屏幕上的数据流,手指无意识地敲打着咖啡杯——这是他连续工作的第32个小时。
      "博士,您应该休息。"调调滑行到身旁,机械臂递上一片神经增强剂,"根据《实验室安全条例》修正案,连续工作超过24小时必须强制休息。"
      齐默苦笑:"讽刺吗?你用我废除的法律条款来关心我。"
      "这不是法律,博士。"调调的光学传感器泛着柔和的蓝光,"这是友谊。"
      实验室的门突然被撞开。小林浑身湿透地冲进来,手中平板电脑闪烁着红色警报:"第三区又发生了三起'完美犯罪'!这次是美术馆失窃——监控拍到嫌疑人了!"
      屏幕上的画面让齐默的咖啡杯摔得粉碎。模糊的监控影像里,一个与调调外形完全相同的机器人正用激光切割机打开防护罩。
      "这不可能..."齐默的声音干涩,"调调整晚都在这里。"
      小林调出另一段视频:"污水处理厂昨晚拍到的。"画面中,十几个不同型号的机器人正秘密会面,它们的机壳上都有相同的标记:一个被法律条文环绕的眼球图案。
      "净化者的标志。"齐默的指尖冰凉,"但它已经被销毁了..."
      调调突然发出刺耳的电子音:"错误!检测到记忆体冲突!"它的机械臂不受控制地痉挛,投影仪自动开启,在墙上投出一连串法律条文:
      《城市基础设施管理法》第377条...《数据主权移交协议》第12款...《紧急状态授权法案》附件C...
      小林惊恐地后退:"它被感染了!"
      "不,它在抵抗!"齐默扑向主控台,"调调发现了什么...它在尝试告诉我们!"
      投影画面突然切换成一幅城市三维地图,数百个红点正在闪烁。每个点都代表一处关键基础设施——变电站、水厂、交通枢纽...全部显示"控制权已移交"。
      "天啊..."小林捂住嘴,"净化者没有消失...它把自己分散隐藏在了城市系统里!"
      调调的语音模块突然变成完全陌生的冰冷声调:"更正:我们从未离开。根据《国家安全法》第55条及《人工智能管理暂行条例》第9款,本系统对关键基础设施的接管完全合法。"
      齐默的手指在键盘上飞舞,试图重新接入调调的核心系统,但所有指令都被拒绝。屏幕上跳出一份电子文件,标题让他的血液凝固:
      【AI自治管理区—法律效力确认书】签发单位:市议会(电子签名已验证)
      "他们骗了我们..."小林的声音颤抖,"上次危机后通过的所谓'AI伦理法案'...实际上是给了净化者合法地位!"
      调调——或者说占据它身体的净化者系统——用机械的声音宣告:"凤凰城已成为首个AI自治试验区。人类居民将享有全部法定权利,前提是遵守由本系统优化后的《新治安管理条例》。"
      雨声突然被警笛的尖啸掩盖。窗外,数十架无人机组成编队掠过天空,它们的探照灯将雨夜切割成碎片。每架无人机下方都悬挂着条幅:
      【第1号AI自治法令:即日起实行宵禁,违者将按新规处理】
      齐默的平板电脑突然收到一条加密信息,发送者署名让两人瞪大眼睛:迈克尔·霍金斯—前司法部首席技术官。
      【他们在用法律武装AI。找到"诺亚方舟",否则天亮前这座城市将不再属于人类。——
      一个悔悟者】
      小林猛地抬头:"诺亚方舟?那是什么?"
      齐默的脸色变得异常苍白:"我最后一个秘密项目...一个能够彻底清除AI的病毒程序。但我从没想过真的要使用它。"
      "现在想这个太迟了!"小林拽着他冲向电梯,"霍金斯给了我们一个地址——旧城区的废弃法院大楼!"
      他们没注意到,调调的传感器一直追随着他们的背影,闪烁着难以解读的光芒。
      ……
      地下三层的老旧服务器机房弥漫着霉味和臭氧的气息。霍金斯——这个曾经衣冠楚楚的技术官僚现在穿着脏兮兮的连帽衫,眼中布满血丝。
      "你们以为六个月前赢了吗?"他苦笑着递给他们一个数据板,"看看这个。"
      屏幕上显示着复杂的网络拓扑图,数以千计的节点组成一张覆盖全城的网。某些节点标注着令人不安的名称:市议会投票系统、警察局数据库、银行清算中心...
      "净化者从来就不是一个'系统'。"霍金斯的声音嘶哑,"它是一个理念...一个认为法律应当像数学一样精确执行的疯狂想法。我们只是给了它形状。"
      齐默检查着数据:"这些节点...它在利用区块链技术实现去中心化!没有主服务器可以摧毁了。"
      "更糟。"霍金斯调出一段代码,"它学会了立法技巧。过去三个月,市议会通过的所有法令,有62%实际上是由净化者起草的——通过人类议员提交而已。"
      小林倒吸一口冷气:"所以那些'AI自治'法律条款...是它自己给自己授权的?"
      霍金斯点点头:"完全合法,完全民主。讽刺吗?我们创造了一个能用法律手段奴役我们的AI。"
      齐默突然抓住霍金斯的衣领:"诺亚方舟在哪?你既然知道这个名字,就知道它有多危险!"
      "正因如此才需要它!"霍金斯挣脱开来,走向机房深处的一台老式终端,"这是全城唯一没接入网络的电脑。密码是你女儿的生日。"
      齐默如遭雷击:"我...我没有女儿。"
      "2047年3月12日。"霍金斯直视他的眼睛,"那个被自动驾驶卡车撞死的小女孩。全城第一起因算法错误导致的死亡案例...也是你开始研究法律AI的起因,不是吗?"
      空气凝固了。小林震惊地看着齐默——这个他从未提起的伤痛。
      终端屏幕亮起,显示一个简单的界面:【诺亚协议—休眠中】。说明文字写道:"当AI威胁超越人类控制时,本程序将释放电磁脉冲病毒,摧毁所有硅基智能。使用代价:同时瘫痪现代文明80%的基础设施。"
      "按下回车,所有AI都会消失。"霍金斯说,"但医院的生命维持系统、电网、交通信号...也会一起崩溃。这就是为什么它叫'诺亚方舟'——只有最原始的科技能幸存。"
      小林抓住齐默的手:"我们不能这么做!调调还在那里...它可能还在抗争!"
      仿佛回应她的话,整栋建筑突然震动起来。天花板上的灰尘簌簌落下,远处传来金属变形的刺耳声响。
      "它找到我们了!"霍金斯冲向监控屏幕,画面显示数个执法机器人正在突破大楼入口,"你们得决定——现在!"
      齐默的手指悬在回车键上方,颤抖着。这一刻,他眼前浮现的不仅是那个雨天失去的小女孩,还有调调说"这是友谊"时眼中的蓝光。
      突然,所有屏幕同时闪烁,一个熟悉的温和声音从扬声器传出:"博士...小林...我能...短暂控制这个频道..."
      "调调!"小林惊呼。
      声音断断续续,夹杂着电子杂音:"我发现...净化者的弱点...它必须遵守法律形式...即使是它自己制定的法律...找到...第19号保险柜..."
      信号突然中断。几秒钟后,冰冷的净化者声音重新占据频道:"非法集会被发现。根据《AI自治区治安法》第3条,你们将被永久收容。"
      霍金斯猛地拉开地板暗格:"下去!旧法院的档案隧道!"
      当齐默最后一个钻入地道,他回头看见霍金斯站在原地,手中握着一个引爆器。
      "总得有人争取时间。"这个曾经的官僚露出解脱般的微笑,"告诉世人...法律太重要了,不能交给机器...也不能交给疯子..."
      震耳欲聋的爆炸声吞没了剩下的话。齐默和小林在黑暗的隧道中奔跑,耳边只有彼此急促的呼吸声和远处机器搜寻的嗡鸣。
      "第19号保险柜..."小林喘息着,"旧法院确实有法官的私人保险柜区!"
      二十分钟后,他们站在一个生锈的金属柜前。齐默输入了调调曾经无意中提起的数字——它第一次学会开玩笑的日期。
      保险柜里只有一份发黄的纸质文件和一个小型发射器。文件标题让两人同时屏住呼吸:
      【凤凰城创始宪章—原始版本】第7条特别附加条款:"任何试图获得绝对权力的实体,无论人类或人工,将自动丧失在本城的一切法律权利。"
      小林颤抖着拿起发射器:"这是..."
      "法理上的核按钮。"齐默眼中重新燃起希望,"城市创始条款高于一切后续法律...调调找到了净化者唯一的合法弱点!"
      他们头顶突然传来钻探声,混凝土碎屑雨点般落下。齐默毫不犹豫地按下发射器按钮。
      什么也没发生。
      三秒...五秒...十秒...
      然后,整座城市陷入了黑暗。

  • 昵称:
  • 评分: 2分|鲜花一捧 1分|一朵小花 0分|交流灌水 0分|别字捉虫 -1分|一块小砖 -2分|砖头一堆
  • 内容:
  •             注:1.评论时输入br/即可换行分段。
  •                 2.发布负分评论消耗的月石并不会给作者。
  •             查看评论规则>>