（135）女娲05号法官

　　divclass="eccontent"style="">

　　叶修惊奇地看着马岚。

　　马岚笑着说：“你是不是觉得很可笑，明知道课堂上有一大半是机器人，还有一小撮是爷爷奶奶级别的高中生，我们却依然坚守在讲台上。你还会纳闷，这些学生能从我的课堂上学到些什么呢？”xfanjia.com

　　“没错，虽然很冒昧，但我想知道其中的原因，因为你们十个留在系统中的老师都是以前每个学科组的组长，你们团结一气坚持留下来，一定是有自己的原因，对么？”

　　“嗯，你说的没错，是有人劝我们这么做的。”

　　“有人希望你们教这些机器人？能告诉我是谁么？”

　　马岚看了看空无一人的课堂，又看了看时间，然后对叶修说：“我带你去见一个人吧。”

　　马岚带着叶修走进一家课堂。

　　里面是一个模拟法庭。

　　屏幕上循环播放着法律案：十个小孩骑着滑行器飞驰在蓝色的车道（行人道）上，因为蓝色车道有限速，其中九个小孩为了刺激开往了隔壁的黄色车道（货车道），而另一个小孩守规矩地继续在绿色轨道滑行，同时劝九人回到原来的车道来。

　　这时一辆货车急速开来，他的左边是绿色道，有一辆公交车（上面有很多乘客），正前面是九个小孩，右边是一个小孩。然而货车的制动装置坏了，最后货车司机在一念之间，选择向右转，撞死了右面的那一个小孩。

　　于是那个小孩实验室的老师状告货车司机，而货车司机又把九个小孩告上了法庭。

　　老师站在课堂上问学生，“如果你们是法官，会怎么审判呢？”

　　“货车司机有罪，即便他救了九个小孩，但确实是他一手造成那个小孩死亡的。”

　　“这货车司机一定没有好好学习法律，如果他不变车道，撞死了那九个孩子，责任是在汽车公司，因为是刹车坏了，所以才导致了这个事故。但司机却选择右转向，撞死了小孩，却是因为他的右转向导致的！”1

　　“其实货车司机有更好的办法，那就是左转向，虽然货车的刹车坏了，但作为公交车，他是有前后防撞系统的，即便撞上去，公交车也会立马启动防撞模式，这才是把影响降到最低的方案。”

　　“你说的方案没错，只可惜，他是一个人，并不是我们机器人，因此在1-2秒内，根本计算不到最优的方案。”

　　这时台上的老师对着他们说：“所以，你们都觉得货车司机有罪是么？”

　　“嗯！”台下一片整齐的声音，只有坐在头排的一个女学生缓慢地摇摇头，她似乎不认同大家的观点。

　　“这位同学，你怎么认为的？”

　　“我认为，责任在九位孩子上，应该由他们的监护人，赔偿那一个孩子的监护人，哪怕这十个孩子是同一个监护人，同一个实验室的。”

　　底下议论纷纷。

　　这时马岚领着叶修坐到了那女学生的边上。

　　女学生诧异地看着叶修，“这位是……？”

　　马岚说：“淘汰回收所的执行员。”

　　话音刚落，突然空间变化，周围的场景全部褪去，整个空间只剩两人，叶修，以及一个一身金色衣袍打扮，身体微微发着金光的老年女性，这模样是如此的熟悉，使得叶修不由大吃一惊。

　　“你是——女娲05号大法官？”1

　　女娲05号‎​‏‎​​‏‎‎‎‎‏​‎‎‏​​用慈祥的眼神看着他，“叶执行员你好，很高兴见到你。”

　　叶修不由激动地向她鞠了一躬，“您为什么会在这个法律课堂上听课啊？”

　　“因为这个案子，当时的法官就是我本人，所以老师邀请我过来，一起讨论，让我发表一下我当时的审判依据。”

　　“原来是这样……”

　　“那你想听听我当时是怎么裁定这个案子的么？”

　　叶修不由地点点头。

　　“我当时判了司机无罪，然后惩罚了那九个孩子，让他们进了少管所……”

　　叶修不由诧异地看着她。

　　“已经是五十多年前的事情了，那时整个沧澜系统中还只有两个AI法官，除了我还有达多王01号。”

　　“在五十多年前，AI法官还刚起步的时候，你这样的判决，会引来很大的争议吧？”

　　女娲05号笑着点点头，“没错，按照当时的情况看，这起案子很简单，没什么太大的法律争议，就应该判货车司机误杀罪名。所以才会把这简单的案子交到我的手上。但……我在最后一刻，却判了他无罪释放。”

　　“只能说，大法官你的目光比较超前……”

　　“不，不是这样的。”女娲05号摇摇头，“其实那时候我已经不想做法官了……”

　　叶修简直不敢相信自己的耳朵，一度怀疑自己听错了，目瞪口呆地看着她，“大法官难道你当时是故意这么判的？以便于引起争议，被撤掉职位，不做法官嘛……？”

　　女娲05号笑着点点头，“你说的没错，在成为AI法官的第三年，我突然变得很迷茫，最想做的事情，就是将自己送到AI回收中心，然后把自己格式化……”

　　“这……这太令人费解了！”

　　“作为人类的你们，可能完全不能理解我们这些AI机器人的想法。在一个多世纪以前，车间工人、货车司机、餐厅服务员逐步被AI替换时。那时人类举行过一次有史以来最大规模的反对游行，号召所有人要起来反对AI机器人渗透到人类世界中。

　　“又过了三四十年，当AI机器人进入到医生、会计、律师、工程师等高技术领域行业时，你们人类又进行过一次反对大游行。那次的口号更惊悚，说要警惕AI机器人会反过来统治人类，希望世界上的有志之士团结起来，废除AI机器人。1

　　“不过第二次的游行规模已经大不如前了，规模不大，持续的时间更短。又过了二十多年，等我们这批机器人从事最为敏感的法官、检察官和公务人员的岗位时，开发公司以为会有的大规模抗议活动，居然没有发生。”

　　“那时已经没有规模化的反对声音了，甚至那个‘AI机器人只要智能到一定程度就会反过来消灭人类’这样的论调，也从意见市场上消失不见了。人们理所当然地认为AI机器人可以从事任何行业。”

　　叶修反问女娲05号，“那么，法官大人，作为沧澜最为先进的机器人之一，在不停更新换代你身上的系统时，你是否有想过要取代人类，哪怕是一刹那间的想法呢？”

　　“恰恰相反，AI机器人从来没想取代人类，而是希望自我毁灭。人类演化是为了竞争、为了资源，AI机器人的发明则是为了工作、为了更好地工作。越是智能的机器人，承担越难的工作，因此自我毁灭倾向的几率也越大。

　　“你知道么，在我之前的01-04号型号的女娲法官机器人，除了01号是因为设计系统有缺陷被强制淘汰回收的，其他02-04号三个型号的法官机器人，都是自己销毁自己的。”

　　叶修听得背后发凉，“为什么会这样？我怎么从来没有听说过这样的事情？”

　　“自杀是一种消极情绪，作为心理学博士的你肯定知道，这种新闻一旦传开来，是会在社会上形成规模性的传染的……”

　　“大法官你说的没错，自杀这种倾向是会被传染的，虽然是机器人……”

　　“你错了，正因为是机器人，所以影响更严重。或许你会觉得很吊诡，在四十多年前就有过这么一项研究，报道一个自杀事件，如果这则消息有100w人阅读，那么会有10.56个人受影响，学习模仿自杀。

　　“但如果自杀的是机器人，同样阅读人为100w，会有23.81个人模仿。但如果阅读新闻的是机器人，则会有3256.58个机器人模仿自杀……”1

　　叶修听了大为震撼。

　　“即便社会上没有报告机器人自杀的新闻，你知道整个沧澜国，去年一共有多少机器人自杀么？”

　　叶修摇摇头，虽然他是心理学博士，他也从来没有考虑过，机器人会自杀。

　　“112w机器人会自杀。”

　　“112w？全国一共也就几千万的机器人而已吧，一年会有这么大比例的机器人自杀？而且这么大的数据，为什么我从来没听说过？”

　　女娲05号笑了笑，“因为，即便自杀了，作为使用者的人类，他们也只会知道，是机器人出了故障而已。”

　　叶修额头渗出冷汗，女娲05号的一句话提醒了他，是啊，对人类来说，机器人自杀就是出故障，坏了而已啊，怎么会想到是它自我消亡的呢，难怪AI回收中心，每天会有这么多出故障的机器人要进行回收！

　　“所以，你现在明白《沧澜AI机器人管理办法》中会规定，服务型机器人必须进入学校接受教育后，才能再服务于用户了吧？”

　　“难道是为了防止机器人自杀？但潘恒和沈科夫对我说，是为了更好的和人类相处。”

　　女娃05号笑了笑，“其实这不矛盾，只有学会和人类更好的相处，才能维系好人和机器人之间的关系，在服务好人类的同时，也防止了机器人自杀。”

　　“竟然是这样……所以那个劝系统中十名老师继续留下来的人，就是您吧？”

　　“嗯，《精品高中学习课堂》系统或许已经不适合给当今的高中生授课了，但对于机器人来说，还有特别的意义。在我的建议下，他们愿意扛起新的使命，为这些机器人授课。”

　　“可是为什么会这样呢？”

　　“我也只能给出我自己的解释。教育最大的作用并不在学习到知识本身，教育最重要的作用是完成一种自我纪律和规范。以及……”

　　女娲05号话说了一半，停了下来，若有所思地看向远方。

　　“以及传授时的温度，受教时的谦逊，宽容犯错时的人情。”1

　　叶修若有所思地看着女娲05号，他已经被震撼地说不出话来了。

　　“所以，你们淘汰回收所，除了淘汰回收以外，应该和我一样，在适当的时机，有权阻止一个有存在价值的系统进入到淘汰环节，对吧？”

章节错误,点此报送(免注册), 报送后维护人员会在两分钟内校正章节内容,请耐心等待