AI的惊人能力在于它的出现

到目前为止，工业产品还没有假设机器具有设计者无法控制的属性，例如涌现性。一个明显的例子是《产品责任法》（PL法），它确定了谁对工业产品用户或社会造成的任何损害负责。

根据PL法，确定责任的唯一标准是产品本身在发货时是否存在缺陷。仅对制造商的疏忽提出质疑，包括“可预见性”，即产品制造商是否能够预见到损害，以及“违反避免后果的义务”，即制造商是否履行了避免损害的义务。然而，在大多数情况下，制造商没有能力预测配备人工智能的设备的结果。因此，从用户的角度来看，即使发生缺陷、损害，也很难根据产品责任法追究制造商的责任。

按照这个解释，紧急情况可能看起来是一个烦人的功能。然而，可以说人工智能之所以有用，正是因为它的新兴性。人工智能的新兴性质使得能够灵活地应对复杂环境中不知道自己在做什么的人的动作，例如人类和机器人共存的地方。从机器的角度来看，人类是一种行为不可预测且非理性的生物。如果没有涌现，设计者就必须指定每一个可能的动作，假设每一种可能的情况。这会将开发成本和时间增加到不切实际的水平。

涌现一方面是人类与人工智能共存的必备属性，但另一方面也是其与当今社会格格不入的因素。

制造商如何确保人工智能设备的安全

与人类共存的自动驾驶汽车和机器人等配备人工智能的设备需要至少达到不会伤害人类的安全水平。然而，由于其新兴性，人工智能设备的制造商很难保证其产品的功能性、可靠性和安全性。作为对策，正在考虑几种操作人工智能的方法。我想通过与强化学习进行比较来解释如何使用它，强化学习是最难保证功能性、可靠性和安全性的（图3）。

[图 3] 配备 AI 的设备制造商如何操作 AI 以保证功能、可靠性和安全性
（上）在使用环境中自主改变功能和属性的强化学习，（中）不允许AI在出厂后学习的操作方法，（下）将表示环境状态的数据上传到云端，在云端进行学习和测试，然后使用的操作方法
创建者：伊藤元明

第一个可能的解决方案是仅在产品开发阶段训练 AI，并且在发货后不对训练后的 AI 进行任何更改。通过这种方法，制造商可以通过在发货时在各种条件下进行测试来建立他们设想的安全性。然而，通过这种方法，无法通过结合自动驾驶汽车和机器人在使用过程中遇到的情况来使自动驾驶汽车和机器人的AI变得更加智能。

一种开发方法是通过互联网将使用过程中遇到的情况的行为数据上传到云端，在云端训练和测试人工智能，然后在确认安全后返回到用户的汽车或机器人。这种方法可以让制造商在逐步发展AI的同时，保证安全。然而，这种操作方法不允许进行定制以适应每个用户的使用环境或实时改进功能和属性。尽管如此，汽车制造商和机器人制造商可能会牢记安全并坚持这种方法。

如果用户不让人工智能自行学习，看起来似乎没有问题，但事实并非如此。事实上，基于机器学习的人工智能很难进行测试，而这对于普通工业产品来说是很常见的。这是因为人工智能的决策过程是一个黑匣子。通常，在测试AI等软件时，会对清楚说明处理步骤和条件的源代码进行验证，以确认其按照规范完成。然而，由于当前的人工智能内部是一个黑匣子，因此无法根据规范验证经过训练的人工智能。尽管可以进行测试来验证输出与输入的关系，但人工智能往往会因为输入的微小变化而显着改变输出或判断结果。因此，准确验证人工智能的内部功能和属性似乎很困难。这是新技术发展的主题。

我们也要求用户遵守AI利用原则

为了安全地使用配备人工智能的设备，仅靠制造商自身的努力是不够的。由于它具有传统机器不具备的突发能力，因此用户在使用时需要小心谨慎。特别是当用户参与AI学习时，还需要考虑到这一点的使用指南。在人工智能在生活、工作和社会中得到充分利用的时代到来之前，世界范围内越来越多的人致力于制定人工智能利用指南。

2018年12月，日本政府在由内阁府等专家召开、汇聚了不同领域专家的“以人为中心的人工智能社会原则研究小组”上公布了人工智能的使用原则草案（图4）。未来，政府计划根据这一原则制定立法。拟议的原则包括七个项目。

[图4]“以人为中心的人工智能社会原则研究小组”发布的人工智能利用建议原则
参考：内阁府《以人为中心的人工智能社会原则（2018 年 12 月 27 日草案）》

在这个提议的原则中我想提请注意的是，人工智能用户也需要对人工智能做出的决策负责。例如，由于人工智能是一个黑匣子，当配备人工智能的自动驾驶汽车失控时，仅通过检查机器人无法解释车辆失控的原因。那么我们如何履行我们的责任呢？为了能够从旁证推断原因，需要安装行车记录设备，记录位置信息、方向盘操作以及自动驾驶系统的运行状态。

2019 年 5 月，经济合作与发展组织 (OECD) 在巴黎经合组织论坛上宣布了一套人工智能原则。这些原则由五项原则组成：“造福人类和地球”、“尊重法治、人权、民主价值观和多样性”、“透明度和负责任的披露”、“稳健性和安全性”和“问责制”。这里再次明确规定了透明度、信息披露和问责制。 OECD公布的原则与日本政府公布的原则草案高度一致，给人的印象是日本在制定人工智能使用规则方面处于世界领先地位。