发生事故时我不知道谁该负责

未来，很可能会出现一个又一个需要人工智能决策有明确理由的应用程序。一个典型的例子是自动驾驶汽车。

在自动驾驶汽车中，AI 分析摄像头图像、超声波雷达、LiDAR（激光雷达）等检测到的数据，以了解驾驶环境（图 6）。如上所述，图像识别的识别率已经达到了人工智能超越人类认知能力的水平。因此，随着自动驾驶技术的进步，发生事故的概率将低于人类驾驶员。

[图6]自动驾驶汽车通过人工智能分析数据来了解驾驶环境
来源：AdobeStock

然而，即使这样的人工智能也无法做出 100% 正确的决策。由于某些人为原因，自动驾驶汽车也有可能发生不可避免的事故。在这种情况下，如果无法确定事故原因，就很难确定谁的责任。这样我连保险都交不起了。如果我们将事故的所有原因归咎于汽车制造商，那么自动驾驶汽车可能无法成为一项可行的业务。

还有，为了推进自动驾驶技术，如果判断出现错误，需要找出错误原因并进行改进。然而，如果我们不知道人工智能决策背后的原因，就很难确定改进的方向。

当我们乘坐出租车或公共汽车时，我们就将自己的生命交到了司机的手中。即便如此，我仍能安心骑行，不仅因为我相信司机的技术，还因为我知道，一旦发生事故，司机会确切地知道事故原因，在某些情况下，他或她也会对自己的工作负责。如果人工智能引发事故，没有一个受害者会对这样的解释感到满意，“事故原因未知，但为了安全起见，我们关闭了相关人工智能的开关。”

即使人类也无法准确解释其决定的原因

许多人可能会犹豫是否将人工智能这种黑匣子答录机应用于影响人们生活和生活的问题。然而，近年来，一些人认为，没有必要等到能够解释决策原因的技术成熟后再考虑其应用。这是因为，即使在人的判断很重要的工作中，也有很多情况下判断的原因并不明确。这个想法是，如果发生事故或错误识别，可以通过技术以外的机制（例如法律和保险）来应对。

自动驾驶汽车的引入肯定会减少交通事故。在其他应用领域，我们正在接近一个机器比人类做出更好判断的时代。如何应对人工智能这种比人类做出更好决策的黑匣子答录机，将是我们这些生活在不久的将来的人们面临的重大挑战。在下一篇文章（该系列的第二篇文章）中，我们将介绍各个行业中正在寻找更好的与人工智能交互方式的运动。