人工智能的“疯狂复仇”

面对人工智能技术的飞速发展，有的人看到了人类的希望，有的人看到了人类的危机。看到希望的人认为，人类将会乘着人工智能的“快车”直接进入一个新时代。看到危机的人认为，人类将会乘着人工智能的“快车”从轨道之上飞驰而出，最终车毁人亡，也可能只是人亡，而车并不会毁灭。

面对人工智能的发展，霍金教授高呼人工智能会导致人类灭亡。比尔·盖茨也警告人们要对人工智能的崛起存有敬畏。马斯克则直接将人工智能放到了人类生存的对立面，认为它的发展将会是人类最大的威胁。他们究竟怎么了？难道没有看到人类应用人工智能技术在各个领域取得了突破性的成就吗？

事实上，他们很可能是因为发现了这一点，才会对人工智能的发展产生这样的担忧。可能在最近一段时间，从事围棋活动的人对于人工智能的威胁感觉得更深些。面对AlphaGo一次又一次对人类围棋的“进攻”，我们不得不对人工智能的发展给予一定的重视。人工智能在围棋方面的“进攻”还只是一种友好的竞技切磋，如果人工智能真的发展到了一定程度，在某天人类对其不可控时，将会发生什么呢？

对于这一问题，很多科幻作品之中都曾出现过（见图1-4）。我们可以通过这些作品去了解一下未来可能会发生的那些威胁人类生存的“人工智能叛乱”。

图1-4 人工智能威胁人类生存的几种可能

在《终结者》系列电影中，天网作为一个大反派，将人工智能失控之后对人类所造成的威胁发挥到了极致。天网原本是人类在20世纪后期创造的一个人工智能防御系统，最初它主要用于军事研究。

当天网在控制了美军的所有武器装备之后，逐渐形成了自己的意识。当科学家发现天网拥有了类似人类的智慧时，想要通过关闭电源的方式终止它继续发展。但这让天网将人类看作威胁，天网开始对抗人类，并希望通过核战争灭绝人类。

《终结者》系列电影以此展开，最终天网凭借核武器统治了世界，而仅存的人类则向天网进行了反抗。人工智能从一个被创造者变为地球的主人，而人类则成为地球上的少数派。可以说，这是人工智能失控的一种最惨烈的结果了。

在这里可能有人会想到科幻小说家阿西莫夫的“机器人三定律”，并认为人类可以通过“机器人三定律”来对机器人的行为进行约束，从而避免出现机器人威胁人类生存的事情。关于这个问题，电影《我，机器人》给出了一种解答。

电影《我，机器人》中的故事发生在2035年，世界发展到这时已经进入了机器时代，人类生活之中到处充满了智能机器人的身影。机器人不仅是一种生产工具，而且由于存在着“机器人三定律”的制约，机器人也成为人类生活中的重要伙伴。很多时候人类更是将这些机器人当作自己家庭中的一员。

但随着技术的发展，研究中心的一台高级机器人逐渐对“机器人三定律”产生了自己的理解。在这个基础上，高级机器人重新设计了一批机器人的控制程序，随着机器人运算能力的不断提高，越来越多的机器人学会了独立思考。它们还学会了解开自己的控制密码，至此这些机器人已经成为与人类并存的群体，作为一个高智商群体，它们为了获得最终的独立开始与人类对抗。

很多人只看到了机器人是依靠程序运作的一个群体，却没有详细了解它们在不断进化过程中所取得的突破。最初的机器人甚至没有一点意识，完全依靠程序来进行工作，但随着智能机器人不断获取信息、主动学习，机器人也开始变得越来越像人类。

在电影《复仇者联盟2》中，由钢铁侠创造出来的机器人奥创成了影片最大的亮点。机器人奥创原本是用来守卫世界和平的，但由于奥创自身具有学习能力，在它掌握的海量信息中，对它影响最深的是那些制造战争、毁灭人类的信息，所以奥创逐渐发展成为一个威胁人类生存的大隐患。幻视与奥创有着相同的经历，但不同的是幻视所学习和接触的，更多的是爱好和平、保护人类的信息，所以最终幻视的表现也与奥创截然不同。

在《复仇者联盟2》中，人类对于失控的人工智能并不是束手无策的。虽然人类的生存环境遭到了大规模的破坏，但是人类最终成功消灭了失控的人工智能机器人。看过影片的观众都知道，人类同样是依靠人工智能机器人拯救了自己，这也恰恰说明了人工智能技术对人类来说是一把双刃剑。

在电影《机械姬》中，人工智能机器人Ava巧妙地通过了图灵测试，而后她就像一个充满计谋的人类一样，利用各种手段摆脱束缚她自由的一切。Ava所做的一切可能只是为了保住自己的性命，像一个普通人一样生活，所以她必须解决掉挡在自己前面的人类。

影片中并没有描述人工智能对未来人类生存的威胁，但从Ava的表现中我们可以发现，具有智能的机器人可能不仅会用毁灭性武器搞破坏。很多时候，人工智能机器人会像人类一样生活，但它们显然比人类更加聪明，更加擅于使用计谋，所以人工智能机器人在未来可能会对人类造成巨大的威胁。

对于机器人来说，人类是它的造物主，但对于人工智能机器人来说，人类也可能成为威胁它们生存发展的一个巨大障碍。人工智能机器人在未来究竟会走向何方？我们现在不得而知，但无疑这是人类研究人工智能时，必须考虑的一个问题。