1.4 AI对社会的影响

软件应用，尤其是人工智能应用可能会对社会产生巨大影响。我认为软件工程师必须意识到这些影响并负责任地采取行动。

自动化技术一直在对劳动力市场产生巨大影响。我们可以看出这种变化，尤其是19世纪工业革命以来。随着20世纪信息技术的到来，创新速度已加快。人工智能技术是这一高度活跃过程的延续，该过程具有不断上升的创新速度。与早期的技术变革一样，大量工作将变得过时，新的工作岗位将出现。

关于人工智能对劳动力市场的影响，有很多预测。有人预测，在某些商业领域，机器人取代人力的比例将高达99%[6]。也有一些人预测，从长远来看，对工人大规模被替代的担忧是毫无根据的[7]。

引用马克·吐温的话，“做出预测是很困难的，尤其是关于未来的预测”[8]。我个人认为，不断进步的自动化技术将减少对人力的需求，因为我们不能（也不应该）永远地增加消费。在这种情况下，有必要就如何分配机器创造的财富达成社会一致。有些人将基本收入[9]视为一种模式进行讨论。

此外，作为一个社会整体，我们必须达成协议，哪些决策可以让机器来做和哪些决策不能让机器来做。亚伦·邦迪在CACM的观点[10]中明确具正确地指出：“智能机器不会对人类构成威胁。担心太聪明的机器，会分散我们对那些愚蠢机器的真实威胁和当前威胁的注意力。”

我们授权机器帮我们做越来越多的决策，当然，没有任何软件是完美的。这对自动驾驶汽车来说可能没问题，我期望在可预见的未来，它们能比普通人驾驶更安全。但在一些领域这可能是危险的，因为机器可能会做出人类无法预见的但却有着深远影响的决策。这些危险领域之一可能是高频交易，交易中机器自主做出买卖决策，但对全球金融市场的影响是不清楚的。更危险的是自主武器，这些武器是程序化的，能够自动检测所谓的攻击，并在没有人为干预的情况下启动反击。

在人工智能和机器人研究人员关于自主武器[11]的一封公开信中，30000多人讨论并签署了关于自主武器的议题。开发人工智能应用的计算机科学家必须意识到人工智能的影响并负责任地采取行动。当前争论中的关键词是负责任的人工智能、道德的人工智能、以人为中心的人工智能或可解释的人工智能。我们将在本书中介绍这方面的内容。