机器人法

时间：2022-06-20  来源：  作者：[db:作者]  浏览次数：

当机器可以思考的时候

2018年3月，美国亚利桑那州坦佩，一辆自动驾驶汽车撞倒了推着自行车过马路的伊莱恩赫兹伯格。当时，自动驾驶汽车正以每小时70公里的速度行驶，在它的车载计算机发现赫茨伯格后6秒钟，它将她撞倒。六秒钟的时间足够让汽车停下或转向，但它什么也没做，反而直接撞上了她。赫尔茨贝格在被送往医院后死亡，这是第一个被自动驾驶汽车撞死的行人。

美国国家运输安全委员会(national transportation safety board)通过对这一事件的初步调查发现，为了确保更平稳的驾驶，这辆自动驾驶汽车的紧急刹车被设计成在自动驾驶过程中禁用，并且没有警告操作者这一危险设计。

75年前，美国著名科幻作家艾萨克阿西莫夫提出了机器人三定律，其中机器人第一定律是：机器人不能伤害人类，或者坐视人类受到伤害。今天，我们处在一个几乎随处可见机器人的世界，但对于我们应该如何与机器人相处这个深层次的问题，仍然没有完美的答案。

在过去的几年里，虽然有很多关于智能机器人的报道和政策建议，但阿西莫夫定律至今仍是一个幻想。

欧盟机器人法律报告的起草者Maddy Delvaux将目前的情况与汽车首次出现在道路上的情况进行了比较。“第一批司机在路上开车时没有规则可循，他们根据自己的想法合理或谨慎地驾驶，”她说。但是随着技术的普及，社会需要规则。"

麻烦的是，监管机器人对人类事务的干预比制定道路交通法规更复杂。例如，保护乘客和行人免受自动驾驶汽车伤害的立法无法防止数据捕捉算法对选民投票的影响。用于诊断和治疗的医疗机器人需要与战场上不同的法规。机器人行为准则

机器人立法还有另一个障碍。法律太笼统，没有过多考虑背景。对阿西莫夫来说，背景可能是规则的一部分。他的许多故事讨论了机器人试图在不同场景中应用法律的意外后果。在他1942年出版的小说《环舞》中，当机器人试图同时满足第二定律(服从人类给它的命令)和第三定律(保护自己不受伤害)时，机器人陷入了困境。阿西莫夫定律很适合小说，但不适合实践。

把这个定律解释为行动常识几乎是不可能的。也有学者尝试过这样做，但最终因为太难而放弃。

最终，争论归结为道德问题而非技术问题。上议院人工智能委员会的史蒂文克罗夫特(Steven Croft)表示：“人工智能带来的新力量需要新的道德准则。为了人类的繁荣，重要的是社会应该塑造规则，而不是让规则塑造社会。不能让私人公司制定规则来决定每个人的利益。”

正如克罗夫特所强调的，不同的地方有不同的文化，不同的文化有不同的规则。比如日本相对于其他很多国家，对陪伴机器人的接受度要高很多，欧洲国家对隐私和数据收集的态度也和美国不同。

然而，必须有一些每个人都同意的指导方针。无论如何，机器人有能力对人类造成伤害，无论是在手术室，在战场还是在路上。因此，人工监控非常重要。

人们经常用“电车难题”的思想实验来展示让人工智能自己做决定所带来的危险。如果一辆自动驾驶汽车在发生事故的情况下不得不选择杀死谁，那么对于车上的乘客和路上的行人肯定是致命的。然而，美国华盛顿大学的瑞安卡罗认为这个思想实验很可笑。机器人除了杀人别无选择，这是一个奇怪的假设。更值得思考的是技术带来的新的可能性。

卡罗想象了一个场景：想象一辆混合动力自动驾驶汽车，它可以通过汽油发动机为电池充电。这款车的设计目标之一是最大限度地提高燃油效率。运行几天后，汽车发现使用充满电的电池时效率最高。它每天晚上都会在车库里运行它的发动机，这样它就可以在早上使用充满电的电池，但这样做可能会导致家里的人因一氧化碳中毒而死亡。

这是明显违反了不能伤害人类的法律，很难预见。在这种情况下，如何判断什么是错的，该怪谁？有人认为机器人的责任应该由制造商来承担。当他们把产品投放市场时，他们应该承担责任。

问题是，至于谁该负责，法律通常要求被告预见其行为的结果。但是，对于具有学习能力的人工智能来说，这可能并不合理。——就像Carlo设想的电池充电场景一样。为了避免这种不可预测的行为，有人提出自动驾驶汽车不应该具备自我学习能力，但这显然与人们对自动驾驶汽车的期望不符。

我们能问的是，机器人的行为是自洽的。确保负责任地使用算法可能意味着我们需要新的人工智能混合算法，这些算法可以将机器学习软件与人类更容易理解的技术结合起来。这是一个令人兴奋的新研究领域。当机器人变得越来越像人类时

美国加州帕洛阿尔托未来研究所所长安妮伊马菲登(Anne Imafiden)表示，如果我们想要人工智能