在考验人类智力的将棋世界里，职业棋手的学习方法和观众的风格近年来发生了显着的变化。这是因为，在难以判断局势的前中期，现在可以使用将棋软件的“评估值”作为判断棋步好坏的标准。职业将棋棋手研究如何走棋以获得更高的评价值，并研究难以看到的有利着法。另一方面，观众会高兴还是沮丧，这取决于他们所支持的球员是否根据他们的软件预测做出了最佳举动。

这个例子中令人惊讶的是对将棋软件的压倒性信任。评价值是通过分析棋盘布局和所持棋子来量化每位棋手的位置的指标，但它具有权威性，让人感觉像是将棋大师的话语。

相信自己算命的结果可以吗？

事实上，不仅仅是在将棋的世界里，计算机的判断已经开始比人类的判断更有权威。现在，从资产管理到员工招聘，甚至疾病诊断，许多领域的专家都依赖软件分析来做出决策。随着支撑现代人工智能兴起的技术深度学习的进步以及答案和判断的准确性显着提高，这些趋势变得更加明显。

深度学习的影响是巨大的。自2012年多伦多大学赢得图像识别竞赛ILSVRC以来，它经历了爆炸性的演变，2015年微软的AI超过了人类的识别率。由于该技术的高度通用性，其应用范围不断扩大，2016年，英国公司DeepMind开发的人工智能击败了一位顶级围棋棋手，这位棋手可以说是在特定领域拥有最高智力的棋手。如今，他已经进入了预言家的境界，比如预测工厂设备的故障，连经验丰富的工人都做不到；准确地指出犯罪可能发生的时间和地点，即使是经验丰富的警察也做不到。

然而，一位深谙深度学习技术特点的工程师表示，“现在的人工智能就像算命一样。依赖它的判断，盲目地委托重要决策是危险的。”这是因为，虽然现在的人工智能回答问题的能力极高，但人类并不知道人工智能给出答案的依据是什么。换句话说，现代人工智能是一个能够给出可靠答案的“黑匣子答录机”（图1）。

[图1]当前的人工智能是一个黑匣子答录机，不会显示其决策的原因
来源：AdobeStock

我们经常接受具有高度专业知识的人（例如医生和律师）的建议，而不质疑其依据。善良的专家会以普通人容易理解的方式解释他们决策的依据，但通常不可能完全理解它们。如果你看到一般人难以理解的智力工作成果，例如医学或法律意见，你别无选择，只能相信它们。现代人工智能提供的答案也开始呈现出类似于专家话语的权威性和神秘性，因为它们没有提供任何证据。一开始的将棋例子可能就是我们不久的未来社会。