以预测准确性为目标，放弃可解释性

商业实践中的这些变化预示着，我们对世界如何运作和未来如何发生的想法，有了更多的试验机会。

机器学习正在让我们面对我们一直凭本能去感觉的事情：这个世界远远超出我们理解它的能力，更不用说控制它的能力。如这本书前言所说：“万物皆一体。”一切都会影响其他一切，一直如此，永远如此。这种混乱是我们生活、商业和世界的真相。

面对这一事实，温伯格扮演了AI代言人的角色。他批评说，我们坚持让机器向我们解释自己，显示了我们的不安全和无知。我们坚持要知道它们是如何得出结果的，对机器的要求比对人类的要求更高。

为了让机器更好地发挥潜力，温伯格建议我们接受超出我们理解能力的系统。这些系统只需要以预测准确性为目标，而无须保证可解释性。在许多情况下，如果这些系统的历史表现良好，我们就可以接受它们的建议，就像我们会接受医生基于一个我们不能理解的有效性研究而给出的建议一样。

他诗意地描述说，这些新工具“创造了一个因特殊性而蓬勃发展的充满联系和创造性的世界。它们开启了一个世界，在这个世界里，每个微粒都相互依存，而粗暴的解释只会侮辱这种复杂的关系”。

在这样歌颂了机器之后，温伯格也认识到，如果不加以控制，系统很可能以最残酷的方式对待最弱势的群体。但他笔锋一转：“我们之所以制造这些工具，总的来说，是因为在大多数时候，它们都是有效的。”由此看来，衡量系统的标准是有效而不是伦理：“机器学习系统极度非道德化。它们只是机器，而不是代表正义的机器。”

温伯格承认，人工智能系统需要底线价值观，但又指出，正是在这里，我们遇到一个棘手的问题：“将价值判断程序化意味着，计算机要达到我们所要求的具体和精确程度。然而，关于价值观的讨论往往是混乱、不精确和争论不休的。”所以人类应该怎么办呢？停止试图将人的价值灌输给机器？

读到这里，我觉得温伯格此书，在暗自敦促人类向机器投降。尽管他的说辞是，机器可以通过创造更多未来的可能性，从而让人类更蓬勃地发展下去。但是，如果说他之前关于混沌的日常应用及企业应用等尚能引起我的共鸣，到了机器与人的关系这一部分，我就不由得不产生怀疑了。他的两个前提都不能让我信服。

其一，不管怎样，机器都会越来越多地接手人类事务。“这个未来不会安定下来，不会自行解决问题，也不会屈服于简单的规则和期望。感到不知所措、困惑、惊讶和不确定是我们面对世界的新常态。”就是说，反正你注定搞不清楚人的未来境况，所以不如就把自己交给机器好了。

其二，机器本身可能教会我们新的伦理。虽然人工智能需要学习更多的伦理知识，但伦理学科是不是也可以从人工智能中学习一些东西呢？“当你试图开发一个影响人的机器学习应用时，你很快就会知道，公平比我们通常认为的要复杂得多，而且公平几乎总是要求我们做出艰难的权衡。”

所以，机器不仅是我们的管家，也可能是我们的导师。最后，温伯格把这一切上升到敬畏的高度：我们比以往任何时候都对未来更具掌控力，但我们驾驭世界的技术和认知手段，恰恰证明了，这个世界已经超出我们自欺欺人的理解。他将此称作“一个新悖论的起点”，并说人类应该感到敬畏，一如以往敬畏星空。

敬畏什么呢？敬畏算法的有效性，因为它们比任何人类都能更好地掌握“宇宙的相互关联性、流动性和纯粹的美”？