25
DESIGN MACHINES TO DEAL WITH THE WORLD’S COMPLEXITY
让机器去应对这个世界的复杂
彼得·诺维格（Peter Norvig）
计算机科学家，谷歌公司研究部主任；合著有《人工智能》（Artifcial Intelligence）
1950年，艾伦·图灵曾明智地认识到，“机器能否思考”这个问题并没有意义，并断言自己将用另一个问题来替换它。他用一系列测试替换了这个问题，通过观察机器在测试中的表现优劣来衡量它的能力。所以，图灵得到的不是对于“机器能否思考”这个问题“能”或“不能”这样的二元结果，而是对于“机器能做什么任务”的详细评估。
让我们去探索一下机器能做什么事情。在一些论坛上，聪明人告诉我们不要担忧人工智能，但同样也有聪明人提出了相反的意见。我们应该相信谁？悲观主义者警告说，我们并不知道如何安全地构建大型、复杂的人工智能系统。这个观点很正确。同样，我们也不知道如何安全地构建大型、复杂的非人工智能系统。对于我们建立的系统，我们需要对其进行更好的预测、控制，以减少意外后果的出现。例如，我们在150年前发明了内燃机，它已经在许多方面很好地为人类服务了，但它也导致了普遍的环境污染，人类为了获得石油而导致的政治不稳定，每年有超过100万人死于交通事故，以及（某些人说）个别地区的社会凝聚力恶化，等等诸多问题。
人工智能赋予了我们构建系统的强大工具。与任何强大的工具一样，由此构建的系统将不可避免地同时产生积极的和意想不到的结果。人工智能所独有的有趣问题是它的自适应性、自主性和通用性。
使用机器学习的系统自适应性很强。它们基于从例子中“学习”到的东西，不断随时间发生变化。（虽然对于机器是否能思考仍然有争议，但是人们显然已经接受了使用“机器学习”这个词语。）自适应性很有用。比如，我们希望自动拼写校正程序去学习新的术语，如“比特币”，而无须等待新版本的字典将其收录。但是有时，自适应程序经过了一次又一次的举例，会被推向它并不擅长的领域。正如桥梁设计者必须处理横风问题一样，人工智能系统设计师也必须处理这些问题。
一些批评者担心，有些人工智能系统是建立在期望效益最大化的框架之上，这种系统会预测世界的当前状态，考虑它可以采取的所有可能行动，模拟其可能的结果，然后选择最易导致最优结果的行动。它可能会在任何时候犯错，但这里的担忧是为了确定最好的结果，这是我们的愿望。如果我们描绘了错误的期望，就可能会得到错误的结果。历史证明，我们建立的所有种类的系统中都发生过这些，而不仅仅是人工智能系统。美国《宪法》就像一个详细指明我们愿望的计算机程序；现在我们认识到，制定者当时作出的规定是非常错误的，超过60万人因此丧命，直到第十三条修正案
更改了它。类似地，我们设计了允许制造泡沫的股票交易系统，从而导致了泡沫经济的破碎。这些都是系统设计的重要问题；世界是复杂的，在这个复杂世界中正确地行动也是复杂的。
至于自主性，如果人工智能系统自己行动，它们可能会在一个没有人参与的系统中犯错。再次强调，这种合理的担忧并不仅仅针对人工智能。请考虑一下我们的自动交通信号灯系统，一旦汽车的数量超过了现有警察的数量，它就会代替人类指挥交通。自动系统会导致一些错误，但它仍然是值得做的交易。我们将继续在所部署的自动系统中作出权衡。我们最终可能会看到各种自动系统日益增加，它们将取代人类，并可能会导致失业率上升和收入不平等。对我而言，这些是我对未来人工智能系统的最大担忧。在过去的技术革命中，农业和工业的工作性质发生了变化，但这些变化发生在几代人的时间中，而不是几年或几十年，并且总是有新工作取代旧工作。我们可能进入了一个变化更快速的时代，这个时代将会改变全职工作的观念（一个仅有几百年历史的观念）。
实际上，工作要确保稳定，并保证员工有稳定的收入来源，即使他可能更像一名自由职业者或企业家。类似地，雇主可能并不需要员工工作一整年，但却愿意为员工稳定地支付薪金以更好地发挥员工的价值。全职工作虽然可以确保稳定性，但对于双方来说都不是最优的。如果它们广泛地被自动化所取代，我们将需要更多的方法来恢复这种稳定性。
另一个问题是智能机器的通用性。1965年，英国数学家古德（I.J.Good）写道：“超级智能机器能够设计出更好的机器；毫无疑问，这将引来‘智能大爆炸’（intelligence explosion），人类智慧将被远远地抛在后面。因此，第一台超级智能机器将是人类最后的发明。”现实则更加微妙。
作为一个物种，我们显然重视智能（我们以智能命名我们自己），但在现实世界中，智能只是许多属性中的一种。最聪明的人并不总是最成功的，最明智的策略也并不总会被采纳。最近，我花了一个小时阅读并思考了关于中东的问题。我没能提出一个解决方案。请想象一台假想的加速超级智能机器，它能够像最聪明的人一样思考，但比后者快上千倍。我怀疑它是否能提出一个解决方案。计算复杂性理论表明：一大类问题并不受智能影响。在这个意义上说，无论你有多聪明，也没有任何方法比尝试所有可能的解决方案更好；无论你有多强的计算能力，都是不够的。
在需要计算能力的领域当然还存在很多问题。如果我想模拟银河系中数十亿个恒星的运动，或在高频股票交易中竞争，那么我会感激计算机的帮助。因此，计算机是一种工具，能够适合多种场合，以解决我们设计的社会机制中的问题。请将人工智能简单地想成另一个引发社会变革的发明，例如内燃机、铲车、管道或空调。请再思考一下如何设计一种更容易处理这个世界复杂性的机制。当你使用人工智能系统时要当心，因为它们有失效模式；当你使用非人工智能系统时也要当心，因为它们也有失效模式。总的来讲，我不确定人工智能系统或非人工智能系统是否更安全、更可靠、更有效。我建议使用最好的工具来做这个工作，不管它们是否被标记为“人工智能”。