谁应对自动驾驶汽车引发的事故负责

配备人工智能的自动驾驶汽车和机器人，无论制造商和用户如何注意安全，都有可能发生不可避免的事故或故障。谁应该承担这个责任？从这里开始，我想以自动驾驶汽车为主题，讨论基于人工智能的系统以及谁应该为事故负责。

已经发生多起涉及自动驾驶汽车的事故案例（图5）。 2016年2月，历史上第一起公共道路上发生了自动驾驶汽车故障引发的交通事故。谷歌正在测试的一辆自动驾驶汽车与当地一辆公交车相撞。^*2此外，2018年3月，Uber的自动驾驶汽车与行人相撞，这是第一起致命事故^*3此外，小事故似乎也经常发生。

【图5】已经发生多起涉及自动驾驶汽车的事故
来源：AdobeStock

现在，谁将为配备人工智能的自动驾驶汽车引发的事故负责？驾驶汽车的自动驾驶系统无法像人类那样雄辩地说话。因此，在很多情况下，当事故发生时，驾驶员和受害者都会声称自动驾驶汽车存在某种故障。然而，安装在汽车上的人工智能的决策过程是一个黑匣子。让汽车制造商承担责任或洗清他们的罪名将很困难。

除非明确这一点，否则没有人愿意乘坐自动驾驶汽车，制造商也不愿意将其推向市场。果然，这种情况不可能持续下去，在自动驾驶汽车广泛使用之前，这一点的研究正在稳步推进。

原则上事故由车主负责

^*4甚至汽车也是主要目标。由谁负责申请 4 级或以上系统将处理所有情况的决定已被搁置。

有一种观点认为，自动驾驶汽车和机器人应该配备“终止开关”，在控制人工智能失控时关闭整个系统。然而，停止失控的机器似乎并不能解决一切。在不远的将来，许多人工智能系统将作为一个整体协同工作，并作为一个有序的系统运行。例如，如果一队自动驾驶汽车处于最佳运行状态，而其中一辆车的自动驾驶系统被关闭，会发生什么情况？事故很可能会产生超出引发问题的汽车的连锁反应。此外，由于人工智能的判断通常比人类更好，一些人认为，在没有警告的情况下关闭系统并将其交给决策能力较差的人类是极其危险的。

一种名为AI强制汽车责任保险的新方式

如果 4 级或更高级别的自动驾驶汽车成为现实，几乎可以肯定，交通事故将比粗心的人类驾驶汽车时少得多。然而，另一方面，也出现了一个问题，即谁应该为发生的少量事故造成的损失负责。如果强制安装行车记录仪等，可能会有大量的间接证据。然而，由于人工智能决策过程的黑匣子，仍然很难追踪事故的确切原因。汽车制造商很可能会坚称他们不对任何事故负责。即使在这种情况下，至少也不应该让事故受害者得不到赔偿。

这里有人提议为自动驾驶汽车建立新的安全体系，例如强制汽车责任保险。这种方法假设无法解释事故原因，将涉及自动驾驶汽车的事故视为自然灾害，并假设没有人有过错，包括乘客、制造商和开发商。在实际操作中，可以推出强制乘客和制造商购买的保险系统。类似的保险可能不仅涵盖自动驾驶汽车，还涵盖机器人等各种人工智能设备。

乍一看这似乎是个好主意，但实际上有一个很大的问题。如果有人犯了应该受到惩罚的错误，他们就会被无罪释放。尤其是，即使有人恶意制造事故，也很难被发现。即使人工智能强制汽车责任保险成为强制性的，也需要找到解决这个问题的方法。

那么我们应该做什么？在下一篇文章（该系列的第三篇文章）中，我们将介绍各公司出于必要性而开始进行的技术开发，以使人工智能的决策过程变得透明。