人工智能曾经完全处于人类的控制之下

在思考当我们不知道现代人工智能给出答案的基础时会产生什么样的不便之前，我想通过追溯人工智能的进化历史来解释为什么深度学习首先不知道答案的基础。

有些人可能会说：“我不知道为什么我从计算器或计算机得到的答案是正确的。”确实，乍一看，这些电子计算机似乎是黑匣子，因为从外面看不到电子机制。不过，即使超出了一般消费者的理解范围，但通过看电路图，是用什么样的运算单元进行计算的，也是一目了然，而且计算程序和条件都在软件中描述得很清楚。这意味着该过程是透明的，并且在知识渊博的专家的帮助下，您可以清楚地展示答案的基础。

这种处理过程的透明性在深度学习兴起之前就存在于人工智能中（图 2）。直到20世纪90年代初，人工智能才被创造出来，将专家和技术工人的智慧和技能程序重写为运算电路的配置和处理程序，类似于传统计算机。研究人员分析了高层思维形式和判断标准，将其系统化为方法，创建了一种“答案手册”或“判断手册”，并将其描述为程序。^*1例如，在区分狗和猫时，研究人员指定兴趣点，并根据耳朵点、身体形状、皮毛图案等特征创建图案，然后比较图像来区分它们。通过这种方法，您可以清楚地展示您区分狗和猫的答案的基础。

[图2]我们已经进入了不显示判断理由的AI时代
创建者：伊藤元明

然而，对于人工智能来说，程序员逐点指定决策程序和标准，越是试图提高答案和判断的准确性，规则就越详细和严格，使其只适用于狭窄的问题范围。这在工作手册中很常见。另外，我们想要用AI重现的很多专家的判断、熟练技术人员的技术的程序和标准是无法用文字表达的，有些情况本来就无法做成手册。另一个问题是，需要花费大量的时间和精力来创建规则和程序来创建可以做出高级决策的人工智能。

为什么深度学习是一个黑匣子

机器学习已被用作弥补人工智能缺点的方法，人工智能有明确的决策规则。随着机器学习发展为神经网络和深度学习，答案的准确性不断提高，应用范围也不断扩大。然而，与此同时，处理程序和标准变得越来越黑箱化（图3）。

[图 3] 人工智能已变得更像是一个黑匣子，以换取更高的答案准确性和多功能性
创建者：伊藤元明

机器学习是一种机器使用其所应用的数据自行学习的技术，而不是让程序员一一指定决策程序和标准。将数据中包含的共同点和特征表达为近似表达式，并根据近似表达式估计未知数据的值。学习前唯一需要确定的是处理过程的概要，通过从数据中找到参数（近似公式的系数）的最佳值作为判断标准来完成程序。至此，AI处理流程和标准已经变得相当黑匣子。影响你得到的答案的因素是参数值的差异，这不是一个人类容易理解的特征，就像前面给出的区分狗和猫的例子一样。

神经网络已被用于应用基于更通用模型的机器学习，而不是预先确定引发特定现象或物理定律的数学近似（图 4）。大脑神经细胞（神经元）是一种用途极其广泛的自然信息处理系统，其工作是通过电子电路来模仿和再现的。神经网络具有许多电子神经元多层连接的结构，通过学习，调整神经元之间连接的强度（称为“权重”），以形成可以做出正确决策的电路。得出答案的规则包含在神经元之间连接的优点和缺点的组合中。从那里，很难找到答案的基础。

[图4]在神经网络中，决策规则包含在神经元之间连接强度的组合中
创建者：伊藤元明