二、让事情任其发展，会发生什么

当人类为具备了重新设计“自己”和其他生命有机体而自豪的时候，应该考虑这种“能力”或“行为”将会导致什么样的结果？即各种超人、类人机器人自由发展，最终相互争夺统治地位的世界将是什么样？这已经超出了技术发展的正面或者负面影响的争论，涉及人类的进化方向以及我们应该创造什么样的未来文明的原则问题。

假如我们对技术发展和创新的方向不加控制，世界必将面临上述三类“物种”共处的时代。这种“文明”的转型所导致的社会将是非常可怕的。在那里越来越先进的各种超人和类人机器人竞相出现并争夺控制权，整个社会将充满灾难和暴力，传统人类在竞争中终将消亡……。

（一）人机文明时代，人类会幸福吗？

如果真的到了三类物种共存的时代，一方面，人人自由到自己可以决定在自己身体中人类增强技术含量的比例，即所谓另一种个人的自由天堂，而那种提倡极端个人主义的世界，肯定是不安定、不和谐，充满冲突和暴力的。因为，尽管“超人类主义”的良好愿望是使人类活得更长久、更健康、提高生活质量、更有满足感，但是如果对人的进化或“改造”没有任何底线，或者作为社会成员的“人”对自己的愿望和行为没有丝毫自律，更不用说加以控制，那种社会将变成个人欲望膨胀的危险游戏场。另一方面，科学技术发展有可能让人类能够达到长生的状态。但是正如尤瓦尔·赫拉利[118]所说，即使是到了2050年，能达到长生不老、永葆青春的不是全人类，只有少数富人才能享受得起那类人类增强技术，而多数穷人或囊中羞涩者只能“望洋兴叹”。那么，这种富人能长生不死而穷人依然会照常死去的社会，就是让整个世界充满空前的愤怒和焦虑的社会。这种对技术获得的不平等，使得贫富差距越来越大，或将导致新的剥削和奴役，将成为影响社会稳定的新因素，促成社会动荡，甚至会成为世界性战争之新的导火线。再者，人类正在为有希望创造以机器为本体注入尽可能多的“人”的自然人和社会人特征的因素，并使其服务于我们而无比自豪。但是这类物种如果“聪明”到做事自作主张或者反叛设计者，甚至企图奴役人类的时候，还谈得上传统人类的“幸福”吗？

（二）“人”的尊严在哪里？

如果把人的身体也视为一种机器，通过技术可以进行支配和修补，各种器官就像商品或技术产品一样，都可以明码标价进行自由交换，那么“人”的尊严在哪里？超人类主义者声称：不要企图阻碍他们对超人类的追求，但是他们也能够接受和欢迎其他人群继续作为传统人类存在，好像很宽容。其实，超人类主义的愿景或路径，不是在堵车的城市道路上选择回家走哪条路更快的选择，一旦起步，则没有回头路可选。传统伦理道德与他们的所谓“理性的、广义伦理”之人生观和哲学层次的争论是不可调和的。

（三）未来的超人或类人机器人如何看待传统人类

果真一部分人成为“超人”，成为比我们外貌更完美、智商更高、寿命更长，甚至成为刀枪不入的钢铁侠，或者“奇点”之后将出现大量的“智能超越人脑”的类人机器人，那么他们对传统人类——不如超人或类人机器人“聪明”和“强壮”的传统人种将采取什么态度？这种对传统人类的“改造”“提升”，或者干脆制造出全新的物种，同19世纪末20世纪初所盛行的通过优生学培育更优良的人种有极其类似的思路。不要忘了仅仅在70多年之前纳粹打着保护优秀人种的幌子所犯下的令人发指的反人类罪行，而那个时候的优生学是纳粹德国进行种族清洗，屠杀上百万异族的臭名昭著的借口。

（四）如果我们像动物一样被处理……

近来，一些科学家们据理力争[119]，动物通常也拥有人类无法理解的不同能力，在某些情况下，动物的大脑比人类更高级。可别忘了大约一万年前的农业革命，人们开始种植谷物和驯养动物，用它们代替人力耕种和充当运输工具，进而把家畜作为吸收蛋白的主要来源。现在这些动物大都避免不了悲惨命运：除少数幸运的动物诸如狗和猫变成宠物，或者关在各种类型的“动物园”中供人欣赏，多数动物变成了人类餐桌上的美食，并为了提高其美味，人类随意改变它们短暂的生存方式和生命周期。

以著名的美食——北京烤鸭为例（图2，图3），养鸭人把小鸭在笼子里集体圈养到两三个月，并将含糖量高的饲料通过填鸭机的柱状管子一天四次直接塞进鸭嘴里，使其快速增肥到2.5～3.5千克重，就可进入宰杀间。因而得名填鸭。

再以工厂化流水线下的奶牛为例（图4），它们通常只能活到5岁就会被宰杀。在这5年中为了维持最大的产奶量，它们几乎一直在怀孕，在分娩后60～120天就要再次人工受精。至于它的牛仔，一出生立即与母牛分开被带走，母的被养大成为新一代的奶牛，而公的就关在一个不比其身体大多少的笼子或者小牛棚的围栏里（图5），一辈子（平均也只有大约4个月）再也不能离开笼子，甚至连走路的机会也被剥夺。这是为了避免它的肌肉因运动而变硬。肌肉越柔软，牛排也就越鲜嫩、多汁。于是，这些小牛第一次有机会走路就是前往屠宰场的路上[120]。

还有，南非“困猎场”中狮子的命运[121]。在那里，小狮子一旦出生，马上被带离自己的母亲并交给不知情的志愿者饲养；稍微大点就被投入到“幼崽爱抚”的旅游项目，游客们只要付钱就可以抚摸这些幼狮，还能和它们合照；再大点就可参加“与狮子漫步”的活动；一旦这些狮子长到7岁左右，体形太大而不宜人类靠近时，大量的狮子就被关进狭小的笼子里，便于频繁地交配、繁殖，以增加狮子的数量；等到它们连繁殖的能力都失去了，就被关进无处可逃，也无处可躲的栅栏里，供人射杀取乐：这就是吸引全世界各地的富人们，享受杀戮快感的运动——困猎。

如果这个世界出现那些比传统人类的“能力”更强的物种，谁说上述动物的命运不落在传统人类的身上？比如出现下面“传统人类与类人机器人的战争”中的第三种版本？

（五）三类物种的“战争”

果真世界进入了三类物种共存的时代，三类物种都想支配其他物种，控制世界，不仅会引起全社会乃至全球的政治、经济、文化前所未有的动荡，还直接危及传统人类在地球上的持续生存。在那里，将发生史无前例的全球性交叉战争：

1．正常人类与超人的战争：从原则性争论、不断发生悲剧，最终传统人类将败下阵来。

一方面，人类增强技术的应用范围超越底线——从“治疗”走向“改善”的目的（问题是在很多领域，治疗与改善的界限越来越难以区分，诸如抗衰老药物和疫苗），即不局限于拯救病人或残疾人，让正常人也通过这种技术使得自然身体被“修补”“改造”和“重组”。越来越多的人抵制不了那些使自己变成更聪明、外貌更美、对疾病的抵抗力更强，活得更长，甚至编辑子女的DNA来“制造”理想的下一代的诱惑而加入超人队伍，使得超人的数量不断增加；另一方面，随着人类增强技术的不断进步，超人的“能力”也不断增强。这就必然引起“正常人类”和“超人”不容妥协的原则性争论（传统伦理道德与“超人”的所谓“理性的、广义伦理”之人生观和哲学层次的争论），进而升级到以暴力消灭对方——战争。

超人看不起传统人类的“愚钝”、懦弱和无能：传统人类从幼儿园、学校、运动场、办公室到科学研究和技术开发的实验室，更不用说健康水平、体能和外貌，处处表现不如超人。因此，超人认为作为“优秀人种”，他们控制社会生活中的一切是理所当然。

而正常人类也不会那么轻易拱手交出控制权：他们认为超人不是真正的“人”，让他们与正常人同时存在本身，将使得社会充满不公平竞争，特别是接受诸如脑机接口技术的超人，其思维已经不属于正常“人”的思维，而且容易被黑客操控，不应让超人承担政治、经济、社会各个领域的管理或领导职位。因此，将会采取各种措施限制超人。两者在身份之争、争夺权力，控制与反控制的斗争将导致全社会乃至全球巨大的动荡。这就难以避免上节所描述的几种可怕的情景发生。

再加上，超人与类人机器人不同，如果只使用隐蔽性的增强技术包括基因改造而形成的“超人”，很难从外表上辨认这些物种是“人”还是“半人半机器”，在什么程度上是“人”，因而难以限制他们的各种活动及其社会地位。其结果，那些“没有得到增强的人类”将逐步处于劣势。同时，由于抵挡不住超人的诱惑力，也为了生存和后代，越来越多的人加入到超人的队伍中，使得传统人类内部也逐渐分裂，展开“自我设计”的竞争，最终导致没有被改造的传统人类走向绝迹。

2．超人之间的战争

随着科学技术的不断发展，人类增强技术也将日新月异。可怕的是能否变得更聪明、外貌更美、活得更长的程度取决于其所掌握的金钱、权力和优先获得最新技术的机会，这就造成超人之间的不平等。超人社会也由于不平等、不公平、贫富差距而导致社会的不稳定，而他们之间的战争将比人类战争更加惨烈。

3．传统人类与类人机器人的战争

如果传统人类未能有效地把握对超级智能机器人的发展方向和应用范围，使得人工智能的发展脱离了监控，类人机器人将以加速度重新设计自身，甚至具备自我繁殖的程度，使其智商或“能力”不断超过人类（参见第一章中“人工智能和智能机器人”部分）。果真到了那个时候，再讨论类人机器人是否应该享有与传统人类同等的权利等问题，为时已晚。传统人类最终败给类人机器人将有多种版本。比如，

第一种版本：类人机器人为传统人类服务到消灭后者。一方面，类人机器人的繁殖或复制能力，不需要人类的怀胎十月之限制，可在自动化生产线上实现量产，使得这些不吃不喝的物种数量得以无限增长；另一方面，既然它们比传统的人类更“聪明”，我们无法预见一个高度智能的机器会做出什么样的决定，采取什么样的举动：“它们”也许做出违背编程的举动，或者产生了以欺骗、作假等方法戏弄人类为乐趣的念头，甚至由于不愿被“比自己愚昧”的人类所控制而产生了自己统治世界的欲望；为此它们将不择手段地消灭一切阻止其达到目的的人；它们也许以奴役人类为乐趣，或者瞬时破坏人类赖以生存的生态环境和食物来源……。对于已经独立了的机器人的思维，人类是毫无办法的，传统人类只能接受被毁灭的前景。雷·库兹韦尔认为[122]:“一个超人工智能，一旦被创造出来，将是地球有史以来最强物种。所有生物，包括人类，都只能屈居其下。”而尼克·波斯特洛姆（Nick Bostrom）则在其《超级智能》一书[123]中，对于没有同级别竞争者的超级人工智能，是如何从夺取权力到最后消灭人类的场景做了详细的描述，包括所需要的所谓“超级能力”，实现统治世界之目标的过程——前临界阶段、递归性自我改良阶段、秘密准备阶段、公开实施阶段。

第二种版本：人类失去发展目标，接受全面退化，安静地自我灭种。人类将从食物生产到饮食起居包括在厨房制作食品、洗碗到擦地板，从照顾孩子、养老到社会管理都交给了智能化了的机器。当这些“人造生命”产生了厌恶、鄙视情绪，或者想“戏弄”这些懒惰到极点的人类，只要运行一个程序，停止一切“服务”，人类是毫无还手之力的。因为一方面，经过几代只知道享受科学技术的发展成果，沉浸在“舒服生活”中的人类，习惯于只要按一下手机的相应按键一切到手，甚至懒得亲手开房门或者从冰箱里取食物，变得毫无自立能力，特别是那些从幼年开始“享受”“数字海洛因”而失去独立思考能力、自我想象力和创造性的一代年青人；另一方面，正如第一章相关“不容忽视的科学技术危机”中“异化人机关系”部分所述，现代信息通信手段的高度发展，反过来使人类几乎失去了面对面人际交流的群体社会之基本根基。这就使得人类无论从作为自然人的知识、智慧和体能方面，还是作为社会人的道德、责任心和社交能力方面，逐步、全面退化，更不用说解决社会问题的能力了。再加上，正如杰瑞·卡普兰所说[124], “人类参与得越少，我们能够施加影响的机会就越少，……”。这就等于我们自动放弃了改变这个世界，建设美好未来的目标、机会和动力，就只好接受自行退化、灭种的下场。

第三种版本：类人机器人圈养人类。类人机器人知道它们在很多方面还是不如传统人类，因而既不想完全“消灭”人类，但又不想受控于传统人类。因而把数量越来越少的传统人类“保护”起来，就像我们保护濒临灭种的野生动物一样，给有限范围的自由（像东北虎或者南非“困猎场”的狮子）。类人机器人也不在乎人类社会的伦理道德或法律什么的，把不同“品种”的人类分别圈养起来，一方面继续提供人类生存所必需的有限服务以维持生命，另一方面用来进行对传统人类的研究、试验或观赏。如果上述的自动化奶牛养殖场是为了人类获得更多高蛋白食物，智能机器人“保护”人类是为了“自己”的持续进化或优化，作为“科学”试验品、研究对象或娱乐对象，但是不想给人类以自由……。这就将上演本章上节所描述的情景——人类真的像动物一样被处理。

总之，当人工智能真的拥有超越人类的复制能力并具有自我意识时，对人类的挑战就有可能超过历史上最残酷的人与人之间的战争。

4．超人和类人机器人的战争

埃隆·马斯克（Elon Musk）作为人机共生的拥护者，认为人工智能一定会在未来某一天威胁人类。他主张“人类需要与机器相融合，成为‘半机械人’才能避免在人工智能时代被淘汰[125]”。由他参与创建的脑机接口公司Neuralink的宗旨与其他许多早已涉足脑机接口领域的公司不同的是，用超人战胜类人机器人的信念。他致力于研究脑机接口技术，不仅为了治愈人类的脑部疾病，还赋予人脑更强大的功能，使得人类可以与人工智能进行对抗。比如在人脑里安装一种纳米级的能够与人体融合的网状设备——神经织网（Neural Lace），让人类与机器相融合。

那么，超人能战胜类人机器人吗？超人毕竟是以自然人的肉体作为本体，在繁殖能力、“躯体”的坚固性、寿命（更新换代）等很多方面仍然保持自然人的特性，不如预想中的类人机器人“强大”“聪明”和“无情”，有很多“软肋”可被类人机器人所攻击。比如，超人还是顾及伦理道德和法律、法规的底线。而类人机器人才不管这些呢！两者之间将有“激烈”的竞争，最终超人被消灭的可能性更大。

还有，假如“神经织网”遭受到网络攻击[126]，黑客或敌方可以通过网络直接与这些人机融合体的大脑进行交流，连超人自己也不能自控。比如，大脑中植入了“记忆增强装置”，如果记忆被全面控制（参见第一章中相关“脑工程”部分），那就不是能否战胜人工智能的问题了。

5．埋藏在超人社会的定时炸弹

值得注意的是超人社会的内在风险：果真有一天像超人主义者所向往的世界到来，由于审美观、理想人生以及对理想后代愿景的趋同，使得超人的基因趋同化得以加速（代替过去生命进化史上一直都在发生的淘汰劣势的自然选择过程）。如在第一章所述，单一人种更容易受到传染性疾病的威胁，这就将增加超人被大规模消灭的风险。

果真如此，类人机器人将成为主宰地球的物种。

超人和类人机器人的战争将上演更多、更复杂的版本。

（六）迎接三类物种共存的挑战

正如前面提到，三类物种不得不共存的社会是不可能长久的。在可能出现的各种情景中，让我们尝试对两种比较“极端”的结局进行分析。

1．理想结局

人类不能让三类物种共存的时代到来，不能让自己成为自己创造的工具之奴隶的事情发生。为此，人类必须从现在开始，“成功”地把握和掌控人类增强技术和人工智能（还包括也许比这两种技术更先进的下一代技术）的发展方向、“应用范围”，将其始终控制在只用于为人类服务的目的，让越来越发达的科学技术为人类提供越来越多的福祉，最终帮助人类实现其可持续生存和发展的最终目标——新的物质、精神、政治、生态、星际文明所组成的伟大文明社会。到了那个时代，人类才有资格（参见下节“我们有资格吗”部分）考虑是否和如何将类似人类增强技术等先进技术使用于传统人类的生命系统方面；才有资格选择将什么样的情感、思维方式乃至世界观和价值观上传到人工智能的终极产品——类人机器人的头脑中，只为了满足人类更多的需求。此时的类人机器人不是作为独立的、类人的物种存在，仍然是人类能够掌控（包括预防和及时消除机器人违背编程的举动、把握“独立”思考的方向、繁殖能力的范围等）的“万能工具”。总之，必须让技术（哪怕几百年之后）始终保持在既有利于增强人类作为自然人的智慧和智能，又能帮助促进作为社会人、道德人的人性之升华，并促进文明的进步之手段的定位上。

在这里，“成功”的关键是相关技术或工具的应用底线之规则、法律等规范能否在全球范围得到共识并得以实施。当然这是极其艰苦的路程（参见第三章中“六、人类必须规范技术”和“七、只靠规范和控制是不够的，多方面的共识是关键”部分）。

2．悲惨结局

如果人类对那些不断发展的颠覆性技术的规范一直停留在争论阶段，得不到全球范围的共识和实施，其结果必然是前两类物种脱离了传统人类的控制和束缚而自由发展，世界只能迎接三类物种共存并交叉战争的时代。到了那个阶段，整个世界将充满无序、冲突和无尽的战争，最终另外两类物种必将战胜传统人类。那将是以万物中最发达、最灵巧的自然存在物自称的人类之末日。传统人类作为一个自然物种能够生存多长时间，取决于各种“超人”被类人机器人毁灭的速度。而到了那个时候，人类试图再拿出解决方案控制其他物种为时已晚，传统人类的毁灭只是时间问题。这就是为什么霍金在全球移动互联网大会（GMIC）上提出人工智能的崛起可能是人类文明的终结。

为此，人们要充分认识这种结果所可能导致的各种灾难，现在就开始控制人类增强技术、类人机器人技术的研究方向和应用范围，研究反风险措施。

有没有可能不让超人工智能产品成为奴役人类的一个新物种？遗憾的是，到目前为止，还没有发明一种手段，能有效地防止类人机器人犯错误或者反叛。