《是律师啊》云栖坞里

2、人工智能世界的道德秩序（二）

　　“法官来电话了，赵晓峰说原始载体在公司，法官把质证地点定在GL公司。”沈澹翻看着koala信封里的几份材料，抬眼道：“你最好祈祷这些东西能帮到那个还躺在床上的人。”

　　koala数了数信封里的钱，露出满意的笑容，丝毫没有搭理沈澹，径直朝花园的矮墙上走去。

　　胡玥就这么看着一个身材高挑踩着至少五公分高跟鞋的女人，轻松一翻，翻过了花园的高墙

　　好吧，尽管不是很高的墙，胡玥目测，至少也有两米吧。墙下并没有台阶，刚才这一切，是怎么发生的？

　　当然，比起这个，胡玥更好奇的是，沈澹手上拿到了什么好东西，能让他脸上浮现出已经把对方打得落花流水的得意神情。

　　“既然已经来到GL公司，我方申请SHE的主设计师肖尚东出庭作证。”

　　“反对。”赵晓峰有主场优势，比起上次见面更加强势了：“肖设计师与本案没有关系。”

　　“原告，给我一个理由。”

　　沈澹早有准备：“本次质证的关键涉及到人工智能的专业问题，我方认为肖尚东应该作为专业人员出庭，便于法官和当事人对专业问题的理解。”

　　法官略作思考，同意了沈澹的申请。

　　“肖尚东，你要如实回答问题，不能做虚假陈述，否则应承担作伪证的法律后果。”

　　“明白。”

　　“肖先生，请向法庭介绍你们公司设计生产的自动驾驶汽车。”

　　“严格来说，自动驾驶根据自主程度分为五个阶段，在L1、L2阶段，自动驾驶系统只是驾驶员的辅助，但能够持续地承担汽车横向或纵向某一方面的自主控制，完成感知、认知、决策、控制、执行这一完整过程，但是其他如预警提示、短暂干预的驾驶技术不能完成这一完整的流程。而达到L4、L5阶段，汽车才能够在限定环境乃至全部环境下完成全部的驾驶任务，才是真正意义上的自动驾驶。”

　　“本案的涉案车辆是属于哪个阶段呢？”

　　“还在L2向L3迈进的阶段，远未能达到L4阶段。”

　　“肖先生，请你向法庭介绍SHE款汽车在遇到障碍物时是如何识别并分别会做出何种反应？”

　　“反对，请原告明确问题。”

　　“原告代理人，请明确你的问题。”

　　“好，我换个说法。”沈澹继续问道：“根据SHE车辆宣传手册第34页，提到：先进的识别能力，能够迅速识别并规避危险。请问，汽车是通过什么技术进行识别？”

　　肖尚东看向法官，得到示意后进行回答：“每辆车有六处雷达探测器和激光测距仪，探测到车身四周特别是前方的物体，来发现潜在危险，并且在驾驶员意识到危险并作出反应之前做出判断并迅速规避。”

　　“请你进一步说明，这套系统是怎么识别危险的？”

　　“这个解释起来很复杂，人工智能的特征就是通过不断学习形成自己的判断标准。”

　　沈澹身子不由得探向前：“能否深入浅出地解释这个问题。”

　　“比如你想告诉人工智能，什么是苹果，可以给他看一千张苹果的照片，每看一张就告诉他这是苹果，一千个苹果有一千个样子，他会对苹果的特征形成自己的数据库，当他再看到一个新苹果的时候，就能判断出，这是一个苹果”

　　“那么，如果这个新苹果长得和那一千个苹果都不一样，比如它长得很特别，很畸形，人工智能会不会识别不出来？”

　　“这是有可能的。”

　　“怎么办呢？”

　　肖尚东不慌不忙回答道：“这就是他一个学习的过程，下一次他就会知道，这也是苹果了。”

　　“所以这辆车在出厂以后，哪怕已经学了一千个苹果，也依然保持着继续学习的状态，而且会一直出现识别不出苹果的情况，对吗？”

　　“反对！”赵晓峰隐隐觉得有些不对，但也说不出理由，法官追问他，硬着头皮说了原告代理人是在引导肖尚东进行推测。

　　法官看向沈澹，沈澹摊开手，一副我什么都没干的表情。

　　“肖尚东可以回答这个问题。”

　　“我想先解释一个问题，SHE使用的ADAS系统还称不上是严格意义上的人工智能，它只是基于传感器检测和程序计算运行的一套特定程序，叫做自动驾驶辅助系统。”

　　“这与本案有什么关系？”

　　“这很关键，在协会的安全分级中，SHE车系在L2级和L3级之间，在特定场景下确实能实现车辆的横纵向连续控制，但在下大雨、下雪等特殊天气或是当车道线不清晰、路面出现积水倒影、逆光等情况下，都可能会因为识别不准确而发生危险，所以我们会强调驾驶员仍然要对行车情况保持警醒，以防出现危险时及时刹车。”

　　赵晓峰在一旁插话道：“所以这又回到了第一次庭前会议时我方的观点，事故发生前7秒， Autopilot系统已经发出视觉警告，驾驶员没有及时刹车，导致事故，所以，与GL公司没有关系。根据国际上通用的责任划分标准，L1和L2阶段汽车的驾驶仍然由驾驶员负责，系统只是在方向和加减速中提供驾驶辅助，如果事故不是因为方向的问题导致，就是驾驶员承担责任，只有在因为方向的操作失误导致了事故，才是由驾驶员和系统根据过错程度承担。驾驶员有责任全程监视驾驶环境并进行失效应对，如果驾驶员已经纠正了，但无法纠正，才是系统运营商来承担责任。而到了L3阶段，路况复杂或出现系统难以判断的情形时，系统会要求驾驶员支援，这期间系统会预留给驾驶员反应的时间，当警告时间到了，车辆就应该由驾驶员接管，相应的责任也转嫁到驾驶员身上。也就是说，在本案中，驾驶员的责任和普通汽车驾驶员的责任没有区别。”

　　胡玥在一旁，紧张地看着沈澹，见他不语，便弱弱地问道：“我有一个问题，不知道能不能问？”

　　所有人突然都看向她，特别是沈澹。

　　胡玥小小声问道：“我就是有点不明白，这套系统，如果什么都需要驾驶员注意，跟普通的小汽车有什么区别？”

　　肖尚东有一种教了半天学生依然懵逼的无语：“刚才我们已经说过了，在AI检测到是它们能够识别且能规避的危险时，自动刹车系统会做出反应，只有在系统不能识别或情况危急时才会发出警示。”

　　“那么，你们一直在说事故发生前7秒已经发出警告，难道那时候他是识别不出危险吗？”胡玥突然灵光一闪，继续问道：“如果它能识别到危险，按照你们刚才说的，虽然只是L2到L3阶段，但实际上已经是L3阶段了，我想想……对，如果可以识别出危险，他不是应该刹车吗？为什么要去警告驾驶员？为什么要驾驶员接管车辆？”

　　肖尚东突然被问得语塞，就是这个点，沈澹抓到了，向法院提出回放事故发生前五分钟的记录。

　　系统曾在前方是红灯时自动刹车停下，在前方有行人时自动刹车停下，在前方车辆紧急刹车时自动刹车停下，但是在事故发生前7秒，他没有自动停下，只是发出了警示。

　　沈澹再次播放了事故路口的监控，和胡玥将二者时间一一对应地比对。

　　赵乐驾驶的车辆以50公里的时速前行，在事故发生前三十秒，李康推着自行车通过人行横道，在行至一半时他蹲了下来系鞋带，背上的大书包正好垂在地上，挡住他蹲下来的部分身体，在事故发生前七秒，汽车发出警示，但没有停止而是继续前行，至事故发生前1.5秒，李康站起身，汽车紧急刹车制动突然启动，但已经阻止不了把李康撞飞。

　　在场的所有人都沉默了，沈澹问道：“肖尚东先生，我可不可以理解为，在事故发生前7秒，如果系统识别出人行横道上出现的是行人，他就会自动刹车，事故就不会发生。”

　　赵晓峰背上已经开始冒汗：“反对，原告在误导证人，证人可以不用回答。”

　　“我们这里并没有证人，肖设计师是作为专家解答法庭的困惑。”沈澹没有放过机会，继续追问：“作为总设计师，我想你的专业知识足以回答这个问题。”

　　肖尚东并没有胆怯，似乎没有察觉到赵晓峰的紧张，而是从容地继续回答：“正如我刚才说的，系统一直需要学习，包括路况、天气、行人以及周围一切物体，因为路上的状况都是瞬息万变的。”

　　“所以，他现在还不能应对所有路面可能出现的状况，对吗？”

　　“再高级的人工智能都需要不断学习。”

　　“请回答我是与不是。”

　　肖尚东被沈澹盯着，回答道：“是。”

　　胡玥松了口气，听沈澹慢慢地向法官的方向，说道：“GL公司将一款尚不能应对复杂行驶状况的自动驾驶车辆上市出售，就相当于是将存在缺陷的车辆进行销售，所以我方要求追加GL公司作为共同被告，并承担共同赔偿的责任。”

　　赵晓峰面色沉重地从座位上起来，边打电话边匆匆向外走去。

　　肖尚东这个技术宅，还没从局势中反应过来，待赵晓峰向上级汇报了情况后把他叫到一边去苦口婆心地说一通，才知道被沈澹给绕进坑里了。

　　他追出去，沈澹二人正在取车要走。

　　看到他气势汹汹地追过来，正准备拍老板马屁的胡玥吓了一跳：“怎么，输了不服还不放人走咋的？”

　　“你们，你们挖陷阱，你们颠倒黑白，我要去跟法官说。”

　　沈澹一把将胡玥扯到身后，车门一关，站在那里，等着肖尚东走过来，问他：“我的当事人下半辈子连坐起来都是奢望，捍卫他的权利，是我的责任。”

　　“那你也不能……不能为了赢，就不择手段。”

　　“你的意思是，刚才你对法官说的，都是假的？”

　　“当然不是。”

　　沈澹摊手，既然是真的，又有什么好懊恼的，你只是把实话说出来而已。

　　“你们根本不知道人工智能对将来的社会能带来多么巨大的影响。全世界每年因为交通事故导致死亡的人数不下百万，而95%的事故都是因为人类驾驶员的失误，自动驾驶的出现将从根本上解决这一问题，更别说缓解道路拥堵和为人们提供的出行便利，整个社会将因此产生像工业革命那样的变革。如果因为你们的私心导致自动驾驶车辆推广受阻，因为你们的个案导致大众对人工智能失去信任，就是在阻拦科技的发展，在和先进理念对抗啊。”

　　“你错了。”胡玥从沈澹身后走出来，说道：“我们在做的，恰恰是推进自动驾驶技术的研发和完善。”

　　肖尚东摇摇头：“现在的牺牲，是为了将来挽救更多的生命，这是每一项科技推进的必经之路，这就是代价。”

　　胡玥被他的回答震惊了，反驳道：“像你说的，拯救千千万万人生命的疫苗，哪怕会导致健康的人因不良反应死亡，也是可以忽略不计的，牺牲和代价吗？”

　　“难道不是吗？难道你会因为某些体质特殊的人接受了青霉素的注射产生反应，而阻止所有人使用青霉素吗？”

　　“我们不是在阻止青霉素，我们是希望让研究人员注意到会有对青霉素引发不良反应的人群，所以他们研究出了皮试。肖先生，你我的目标，其实是没有冲突的。”

　　肖尚东还想再说下去，沈澹以还要去医院探望当事人为由上车离开了。