当人工智能成为人类杀手

时间：2022-06-20  来源：  作者：[db:作者]  浏览次数：

1942年，著名科幻作家阿西莫夫提出了“机器人三定律”:第一，机器人不得伤害人或袖手旁观，不得看着人处于危险之中；第二，机器人必须服从人的指令，除非这个指令违反了第一条规则；第三，机器人在不违反上述两条的情况下，有保护自己的权利。

这些原则对后来的科幻文学产生了深远的影响，也成为了现代人工智能(AI)的基石。几十年来，“失控的机器人”一直是人类的噩梦，一代又一代科学家试图让日益强大的AI永远处于阿西莫夫定律的枷锁中。

然而，美国HBO 2018年11月上映的纪录片《杀手机器人的真相》却揭示了冷酷的现实：AI似乎正在远离阿西莫夫的想法，走向《终结者》或《西部世界》。“这是今年最恐怖的纪录片。”英国《卫报》评论。杀手变成了现实。

003010在机器人“Kodomolod”的旁白中开场。科莫罗德看起来是个漂亮的女孩，但“僵硬的动作”和“怪异的停顿”暴露了她的身份。美国《每日野兽》网站上的一篇文章说：“以机器人的口吻讲述机器人杀手的故事，再合适不过了。”

科莫罗德首先回顾了2015年发生在德国法兰克福大众工厂的一场悲剧。一名21岁的工人走进了关押机器人的“安全笼”进行调试。机器人突然“发脾气”，用机械臂抓住工人，将其压在金属板上，致其死亡。事故发生后，大众含糊其辞，至今没有得出调查结论。检察官曾考虑过提起诉讼，但不知道该起诉谁。

根据美国职业安全健康管理局的统计，在过去的30年里，机器人已经造成了30多起谋杀案。最近的一次发生在2017年，57岁的技术员万达霍尔布鲁克(Wanda Holbrook)在密歇根州的一家汽车零部件工厂被机器人杀死。事件的细节令人毛骨悚然。这个工厂里的机器人和人类在不同的领域工作。然而，一个机器人“越线”了。它来到霍尔布鲁克身边，举起一个沉重的附件砸向她的头部。死者的丈夫说，妻子经历了“巨大的恐慌、痛苦和煎熬”。

如果说工业机器人“大规模杀伤”离普通人有点遥远，那么自动驾驶汽车引发的车祸足以给乐观的人敲响警钟。自动驾驶汽车被称为“第一代民用智能机器人”，但正如《杀手机器人的真相》所指出的那样，它们远非完美。2016年，一名美国男子的特斯拉汽车在自动驾驶模式下转弯时，没有注意到一辆拖车正在过路口，以每小时118公里的速度径直撞了进去。特斯拉的车顶被切断，车主当场死亡。

机器人可以毁灭人类的血肉，抢走人类的饭碗。片中提到，机器人正在加速取代人，无论是制造业、农业还是服务业，它们的身影越来越清晰。“当你听到政客们承诺提高就业率时，他们要么是在妄想，要么是在撒谎”。

人工智能的粉丝们描绘了一幅乌托邦式的画面：机器人做了所有的工作，人们只需高枕无忧，自得其乐；我的大脑会上传到云端实现“永生”。

但现实是，自动化让越来越多的蓝领工人失去了生计，剩下的工人不得不更加努力才能保住工作。一边是效率更高成本更低的机器人，一边是一有不满就罢工的工人。老板有什么理由对后者手下留情？

“机器人很好，”Kodomolod谈到他的同类时说，“除了杀人和抢饭碗的时候。”AI该不该掌控生死？

AI对人类的威胁越来越大，把生杀大权放在它手里更是火上浇油。

使用致命武器的决定权一直掌握在人类手中，但AI的发展总有一天会改变这种局面。机器人可以更早发现敌人，主动攻击并摧毁目标。据美国《杀手机器人的真相》报道，美国、英国、以色列等国试图赋予无人机和导弹自主权。

这与阿西莫夫定律相悖，对人工智能武器的猛烈抨击风起云涌。2015年，斯蒂芬霍金和1000多名人工智能科学家联合发表公开信，警告“自动化武器将像AK-47步枪一样普及”，“在执行暗杀、征服外国种族、破坏其他国家稳定和减少外国人口等任务时发挥理想的工具”。2018年，谷歌公司多名资深AI专家发表声明，“拒绝开发直接或间接造成人员伤亡的武器和技术”。

有人呼吁完全禁止不需要人工监管的全自动致命武器。这一倡议遭到澳大利亚、以色列、美国、俄罗斯和韩国的抵制，未能成为国际准则。

“我不认为自动化武器能遵守作战规则。他们分不清敌人和敌人，