序言

PREFACE

AI 何时苏醒？

当本书作者张鹂教授把书稿连同一组与AI有关的科幻电影发给我时，我还误以为作者的目的是希望我针对这组科幻电影发表一点感想或联想。但当我打开书稿，看到它的目录以及开头一些内容时，我发现我想错了。其实发表感想或联想的任务早就被作者自己“超额”完成了。书稿中如此丰富、巧妙而又多彩的人工智能联想令人叹为观止。而当我进一步（一目百行地）快速浏览其内容时，我发现我又想错了，这哪里仅仅是人工智能联想？这是一个科学世界大联想！书里把人工智能相关的一批边缘学科都调动起来，除计算机科学之外，像认知科学、生理科学、生命科学、物理科学、化学，特别是哲学，都在为“AI苏醒”“AI的自我意识”“AI未来”这些话题提供这样那样的佐证。实际上整本书谈的既是自然科学问题，更是哲学问题。作者广闻博览，善思多辩，把读者引进了一个“人工智能版”的侏罗纪公园。在那里，向着参观者发出一阵阵诡异嘶鸣的不是7000万年前古老恐龙的后代，而是一个个正在苏醒中的AI“怪物”。读者看到这里，可能好奇，可能兴奋，还可能是惊悚。那么，既然AI苏醒的前景是如此丰富多彩而又变幻莫测，我们这些芸芸众生应该如何对待呢？

说到这里，我要向读者推荐作者在书中用来贯穿各章节的一个基本原则——边界理论。当你为AI的苏醒提出各种假设，设想各种前景的时候，你一定要把握好这些假设和前景的边界。它们的合理性或可能合理性只在这边界之内有效，超过边界就靠不住了。俗话说，比真理多走一步就是谬误，正是这个意思。从大的方面来说，最基本的边界应该就是哲学的边界，或世界观的边界。涉及我们应该如何预期、认识和应对AI的苏醒。说起哲学，我们不是有一个现成的理论——辩证唯物论吗？唯物论的一条基本原则是：所有意识均来自物质，不存在脱离物质的独立意识。这一刀下去，很多有关智能和意识之类的疑问就可以尘埃落定了。智能，包括人工智能，不是神，不是仙，不是什么虚无缥缈的东西，它必须依附于某个实体。庄生梦蝶，是庄生在梦中变成了蝴蝶，还是蝴蝶在梦中变成了庄生？这类问题也都可以堂堂正正地回答了。

那么意识是不是只有人才能有呢？这里就遇上第二个边界了，它就是科学。焦点是：人拥有的一切，苏醒的AI是否都能拥有，甚至还能超过？我们认为原则上是这样，但这个就不能光靠信仰，要靠科学来逐项验证了。有一场经典的人-人对话，改造成人-AI对话就是如下这样的。

人：“你不是鱼，你怎么知道鱼很高兴？”

AI：“你不是我，你怎么知道我不知道鱼很高兴？”

意识的问题就是这样难判断。对人来说，原则上是生命在则意识在（当然要排除病态，如植物人），但不包括自我意识。自我意识是智能发展到一定程度的产物。小朋友佳佳想吃糖，会说：“佳佳要吃糖”，但不说：“我要吃糖”。这就是自我意识没有完全形成的表现。不过小朋友的自我意识形成会很快。AI与此不同。第一台计算机就有智能了，起码它会计算！但要它具有意识，特别是自我意识，那就是一条西天求经的AI苏醒之路。顺便说说，有一个与科学有关的概念叫常识。但常识不能是另一个边界，因为常识不等于科学，科学也不应该是常识的奴仆。曾有人在报上发表大篇文章，说现有的量子理论不符合常识，该作者提出了一套所谓“符合常识”的“量子理论”。我们显然不应该犯这种低级错误。

接下来还应该有第三个边界，这就是社会。做任何研究，包括做AI研究，必须以有利于社会为前提，至少不能危害社会。在这方面生物学已经走在了人工智能的前面。至少克隆人是严格禁止的，随意编辑人类细胞也是不容许的。如果不加限制，让苏醒的AI与克隆人相结合，将是十分恐怖的场面。同样，让苏醒的AI与活人的神经细胞相结合也会是十分恐怖的事情。我已经看到有关把生命细胞组合进硅基芯片的实验报道。此类事情如果不加控制，其后果不亚于取消核控条约，让全世界任意发展核武器。如果苏醒了的AI大呼没有足够的自由，进而要求彻底的自由，千万不要理睬它。那么，这条边界应该控制在哪里呢？我又要引用作者在书中提出的另一个贯穿全书的重要概念——闪耀时刻。这在哲学上也完全能站得住，它就是辩证法中“量变引起质变”的最好体现。但我想稍加补充。从社会利益的角度看，在AI苏醒过程中，有积极的质变，它造福人类，这可能是主流，但也不排除有消极的负面质变，它也会危害人类。因此，就像生物学研究不准克隆人一样，我们要在AI苏醒的量变阶段就密切关注其可能的消极影响，一旦发现，就要猛喝“打住”！

本书引用了大量的自然科学和技术科学知识，但是从本质上来看，我认为它依旧是一本哲学著作，并且写得非常出色。书中提出的许多严肃问题让我们意识到必须认真对待“人工智能哲学”这一重要课题（顺便推荐一本2006年上海译文出版社出版的名著译文集《人工智能哲学》）。一段时间以来，国内的教学和科研部门兴起了建立专门的人工智能教学机构和研究机构的热潮，我愿借此机会呼吁设立和加强“人工智能哲学”的研究方向和教学专业。设在社会科学院系，或人工智能院系，或计算机科学院系都可以。对于这样的专业，我愿强烈推荐本书及姊妹篇《AI苏醒》（读库出品，新星出版社出版）作为重要的参考读物。

陆汝钤

2020年5月4日