40
MISTAKING PERFORMANCE FOR COMPETENCE
错把性能当能力
罗德尼·布鲁克斯（Rodney A.Brooks）
机器人专家，曾任MIT人工智能实验室主任；著有《我们都是机器人》（Flesh and Machines）
“思考”和“智能”都是马文·明斯基所谓的“手提箱”式词汇。“手提箱”式词汇是指被我们赋予多种含义的词汇，我们可以利用这些词汇简要地谈论复杂的问题。当我们深入分析这些词汇时，会发现很多不同的方面、机制以及理解的层次。因此，这使得回答一些长期悬而未决的问题变得很困难，例如，“机器能思考吗”“机器什么时候会达到人类智力水平”。这些“手提箱”式词汇同时涵盖了机器所展示的特殊性能，以及人类所拥有的更通用的能力。我们从性能推演到能力，并完全高估了当前和数十年之后的机器的能力。
1997年，一台超级计算机击败了国际象棋世界冠军卡斯帕罗夫。今天，很多运行在笔记本电脑上的程序比人类拥有更好的国际象棋排名。毫无疑问，计算机下国际象棋肯定比人类下得更好，但计算机的能力远不及人类。
所有的国际象棋程序都使用带有启发式估值的图灵的蛮力树搜索算法。到了20世纪70年代，计算机的运算速度已经足够快了，这种方法压倒了那些试图在下棋过程中模仿人类如何思考下一步棋的人工智能程序，所以那些方法大多被放弃了。今天的国际象棋程序无法确定为什么特定的一着棋比其他着法更“好”，只是这着棋使棋局进入了搜索树中对手拥有更少好选择的分支。人类玩家能够概括描述为什么某些类型的着法是好棋，并以此来指导另一个玩家。蛮力算法程序无法指导人类玩家，除非被人类视为同等的伙伴；这取决于人类自己作出的推断与类比，以及自己是否愿意学习。国际象棋程序不知道自己比人类更聪明，不知道自己是一个教具，不知道自己玩的游戏叫国际象棋，甚至不知道什么是“玩”。我们制作的蛮力算法下棋程序的棋技胜过了所有人，这使得人类在国际象棋上不再拥有控制地位。
现在请思考一下深度学习。深度学习在过去一年来吸引了人们的注意力，它是反向传播算法（back propagation, BP算法）的升级。BP算法是一种拥有30年历史的，大致基于神经元抽象模型的学习算法。它将一个信号映射到神经元层上，例如声波的振幅或图像的像素亮度，这样可以更加精确地描述这个信号的完整意义，例如声音中的词语或图像中的物体。最初，BP算法只能在2～3个神经元层上工作，所以在应用学习算法之前，需要对信号进行预处理，以获得更结构化的数据。新版本的算法在更多的神经元层上工作，使得网络更深，因此被命名为深度学习。现在的预处理步骤也会进行学习，这种不带有人类个人偏见设计的新算法就远比仅仅3年前的算法要强大得多，这就是深度学习吸引人类注意力的原因。它们依赖于服务器集群中大量计算机的计算能力，以及以前从未出现过的大数据集。但苛刻地讲，它们也依赖于新的科学创新。
对于它们的性能，一个众所周知的例子是，它们对一幅拿着毛绒玩具的婴儿图像进行的标注。当你看图像时，眼前就是你看到的东西。这种算法在图像标注方面表现得很好，远远超出了人工智能从业者的预测。但是，它仍然不具备人类标注相同图像时所具备的全部能力。
学习算法知道图像中有婴儿，但它不知道婴儿的身体结构，也不知道婴儿在图像中的位置。目前的深度学习算法只能分配每个像素点的概率，即某个特定的像素点是否属于婴儿的一部分，而人类能够看到婴儿占据着图像的中间部分。目前的算法对于婴儿的空间范围只有一个概率上的认知，它不会运用排除法，也无法确定图像边缘的非零概率的像素点一定不是婴儿的一部分。如果我们观察神经元层的内部，或许可以发现更高级别的特征学习，即某一个识别出的特征是类似眼睛的图像，另一个特征是类似脚的图像。但目前的算法无法识别图像中眼睛与脚之间可能有效的空间关系约束，这样，就很可能会误将一张由婴儿身体的各部分组成的奇怪的拼贴画识别为婴儿。但没有人会这样想，所有人都会立即精确地识别出它是一张由婴儿身体的各部分组成的奇怪拼贴画。此外，目前的算法无法告诉机器人应该移动到哪个位置去抱起那个婴儿，到哪里去拿到奶瓶来喂他，到哪里去给他换尿布。目前的算法在理解图像方面不具备类人水平的能力。
增强机器学习对于连续空间结构的关注和掌控的研究工作已经开始进行了。这是一项艰巨的科研工作。我们不知道它有多么艰难，不知道它将花费多长时间，也不知道这个方法是否会遇到死胡同。从BP算法到深度学习花了大约30年时间，但一路走来，许多研究者认定BP算法没有前途。他们错了，但如果他们是正确的，也并不意外，因为我们自始至终都知道，BP算法不会出现在人脑中。
对于失控的人工智能系统，无论是它们统治人类，还是让人类变得无足轻重，这种恐惧都是严重不切实际的。由于“手提箱”式词汇的误导，人们对于能力的可替代性分类时有错误，就好比看到高效内燃机的发展就认定曲速引擎指日可待那样。
注：马文·明斯基，人工智能领域的先驱之一，人工智能领域首位图灵奖获得者，当之无愧的人工智能之父。推荐阅读其代表作《情感机器》（湛庐文化“机器人与人工智能”书系之一），该书首次披露了创建情感机器的6大维度，深度思考了人类思维与人工智能的未来。该书中文简体字版已由湛庐文化策划出版。