3 (撕裂、捆绑、切割玩具人) 2045年6月
保罗——或者说他继承了其记忆的那个血肉之躯——将副本的历史追溯到了世纪之交。当时研究人员开始微调用于外科培训和药理学的通用计算机模型,将其转化为能够预测个别病人需求和问题的定制版本。药物疗法要提前在包含特定遗传和生化特征的模型上测试,从而使剂量得到优化,并预测和避免任何特异性的副作用。复杂的手术要在虚拟现实中进行演练和完善,手术对象是基于真实患者断层扫描的软件人体,其解剖细节精确到最细小的毛细血管。
这些早期的模型包括对大脑的粗略近似,完全可以用于心脏手术或者免疫疗法——甚至在一定程度上对处理严重的脑损伤和肿瘤也能派上用场——但在探索更微妙的神经系统问题时却毫无价值。
不过,成像技术在稳健进步——到了2020年,人们已经可以绘制每个独立的神经元,并且可以无创地测量单个突触的特性。配合扫描器的使用,大脑的每一个与心理相关的细节都可以从活体器官中读取出来——并在足够强大的计算机上进行复制。
起初,人们只为一些孤立的神经通路建立了模型:机器视觉设计者感兴趣的部分视觉皮层,或者作用仍存争议的边缘系统的某些区域。这些零散的神经模型产生了有价值的结果,但是对整个器官功能完备的再现——嵌入整个身体——就可以实现对神经外科和精神药理学最微妙功用的提前测试。然而在几年的时间里,没有建立这样的模型——部分原因是超级计算机机时支出高得令人望而却步,部分原因是人们对它的前景心存基本上无人言明的不安。没有任何正式的障碍挡在前面——政府监管部门和机构伦理委员会只关心人类和动物的福利,没有哪个实验室因为不人道地对待生理软件而遭到活动家们炮轰——但是,总还是要有人率先打破所有未说出口的禁忌。
总要有人制作一个高分辨率的全脑副本——并让它醒过来,然后说话。
2024年,在一个粗糙的虚拟现实中,波士顿的神经外科医生约翰·瓦因斯运行了自己的一个具备完整意识的副本。第一个副本的第一句话花了略少于三个小时的真实时间(脉搏加速,呼吸急促,压力荷尔蒙升高):“这就像被活埋了。我改主意了。把我弄出去。”
他的原版热心地关闭了他——但后来又重复演示了几次,未进行任何修改,因为他推断多次运行完全相同的模拟并不会造成额外的困扰。
瓦因斯公布他的成果时,并未提到推动神经学研究的前景。在二十四小时内——尽管副本的证词令人沮丧——头条新闻尽是些永生、大规模迁移到虚拟现实,以及即将被遗弃的物理世界之类的内容。
当时保罗二十四岁,还没考虑好要怎么过这一辈子。他的父亲在前一年去世了——给他留下了一个不大不小的商业帝国,其核心是一个欣欣向荣的零售连锁店,而他对管理这个商业帝国没有兴趣。他花了七年时间旅行和学习——科学、历史和哲学——在所尝试的每个方面都做得足够好,但没有发现任何能在智力方面真正点燃其激情的东西。由于无须为经济保障而拼搏,他悄然陷入了一种茫然而自满的状态中。
约翰·瓦因斯副本的消息粉碎了保罗不问世事的态度。就好像科技曾经做出的改变人类生活的每一个可疑承诺都将得到实现,而且是变本加厉地实现。长寿只是一个开始,副本能够以真人基本上做不到的方式演化:修改他们的思想、重新定义他们的目标、无休止地改造自己。这种可能性令人陶醉——哪怕民众获知了最早版本的成本和缺点,哪怕他们开始了不可避免的抗议。保罗是一个千禧年的孩子。他已经准备好拥抱这一切。
但是,他越是花时间思考瓦因斯的成就,就越觉得此事的可能后果有多么离奇。
实验引发的公众辩论是激烈的,却肤浅得令人沮丧。几十年来的争论再次爆发,焦点是计算机程序究竟能与人类有多大程度的共同之处(心理方面的、道德方面的、形而上学的、信息理论上的……),甚至副本是否能“真正”有智慧、“真正”有意识。随着更多的工作人员重复瓦因斯的结果,他们的副本很快就通过了图灵测试:在对一组副本和人类进行测验时——通过延迟视频来掩盖时间流逝速率的差异——没有一个专家小组能够区分两者。但是一些哲学家和心理学家继续坚持认为,这只是证明了“模拟意识”,副本不过是能够伪造细致内心生活的程序,实际上根本不拥有内心生活。
强人工智能假说的支持者们坚持认为,意识是某些算法的属性——是信息以特定方式被处理的结果,不论执行这一任务的是什么机器或器官。如果一个计算机模型操纵关于它自己及其“周围环境”的数据的方式与有机大脑基本相同,那么它肯定拥有与后者基本相同的精神状态。“模拟意识”和“模拟加法”一样,是自相矛盾的说法。
反对者回答说,你建一场飓风的模型,不会有人被淋湿;你建一座核聚变电站的模型,不会有电力被生产出来;你建立消化和新陈代谢的模型,不会有营养物质被消耗——没有发生真正的消化过程。那么,当你造出来一个人脑的模型,你为什么要期望它能进行真正的思考?一台运行副本的计算机也许能够在假设场景中产生对人类行为的合理描述——甚至看上去能够通过正确预测人类在相同情况下究竟会做什么而进行对话——但这很难说明机器本身具有意识。
保罗很快做出判断,这些辩论全都是离题万里的无聊消遣。对于任何一个人类来说,确凿地证明一个副本的智能都是不可能的。对于任何一个副本来说,真理不言自明:我思故我在。毋庸多言。
然而对于任何愿意像对待同类一样,给予副本的意识合理推测的人类——以及任何愿意对此做出回报的副本——来说,真正的问题在于:
关于这个共同状况的性质,尚有一些悬而未决的问题,而副本的存在比之前的任何事物都更加鲜明地凸显了它们。在人类能够自信地开始将其文化、记忆、目的和身份传给后人之前,哪些问题需要得到认真的探究。
那是一些只有副本才能回答的问题。
保罗坐在书房里,坐在他最喜欢的扶手椅上(不确信其表面的纹理得到了精准的复制)。他不敢在自己身上做进一步的实验,而他尽可能从这种无疑荒唐透顶的恐惧中得到了一些安慰。他已经“挺过”了从有血有肉的人到计算机化生理模型的“过渡”——到目前为止,这是该项目最激进的阶段。相比之下,对模型的一些参数修修改改本应看起来是鸡毛蒜皮的琐事。
达勒姆出现在终端机上——除此之外,终端机仍然功能失调。保罗已经开始把他当成一个被困在屏幕里的专横小精灵——而不是一个无所不能的巨大神灵,在现实的大厅里走来走去,掌控着一切。他的音调足以打散任何权力和高贵的光环。
嘎吱。“实验一,试验零。基线数据。时间分辨率置为一毫秒——系统标准。只要数到十就行,间隔尽可能把握到一秒。好吗?”
“我想我做得到。”这一切都出自他本人的计划,他不需要逐步指示。达勒姆的图像消失了。在实验期间,不能让他得到真实时间的线索。
保罗数到十。“精灵”回来了。盯着屏幕上的脸,保罗意识到他并不会把它当成“自己的”脸。也许这是他与早期的副本保持距离的一个后遗症。或者,他内心中自己的形象从来就不像他的真实面目——而现在,为了捍卫理智,他正在进一步疏离它。
嘎吱。“好的。实验一,试验一。时间分辨率为五毫秒。你准备好了吗?”
“准备好了。”
“精灵”消失了。保罗数道:“一,二,三,四,五,六,七,八,九,十。”
嘎吱。“有什么要报告的吗?”
“没有。我是说,我不禁感到有点忐忑不安,就因为知道你在胡乱捣鼓我的……基础结构。不过除此之外,没什么。”
等待经过加速的答复的过程中,达勒姆的眼神不再呆滞。要么他在一定程度上变得自律了,要么——更有可能——他用了某个智能编辑软件来掩盖他的无聊。
嘎吱。“不必有什么忧虑。我们运行着一个参照对象,记得吗?”
保罗宁愿不被提醒。他知道达勒姆一定是克隆了他,正在向两个副本提供完全相同的知觉——同时只修改其中一个副本的模型时间分辨率。这是实验的一个重要部分——但他不想老想着这件事。第三个自我,时刻追踪着他的思维,千头万绪当中,唯此一件最难令人接受。
嘎吱。“试验二。时间分辨率为十毫秒。”
保罗数了数。世界上最简单的事情,他想,当你由血肉构成,当你由物质构成,当夸克和电子各司其职。人类终归是成型于基本粒子的领域中——当然也无法成为除了他们自己之外的其他东西。副本成型于计算机内存中,作为庞大的数字集。数字当然可以被解释为对一个坐在房间里的人体的描述……但很难把这种意义看作是内在的、必要的,因为在模型的编码方式中包含了数万个主观的选择。这是我的血糖……还是我的睾酮水平?这是我举起右手时运动神经元的发射率……还是我看着自己做动作时从视网膜上传来的信号?一个能够获得原始数据却不知道这些规则的人,也许穷尽一生详查这些数字也无法参透其中的含义。
然而,任何一个深埋数据本身的副本——无论他对细节是不是一无所知——都能在瞬间理解这一切,不会遇到丝毫困难。
嘎吱。“试验三。时间分辨率为二十毫秒。”
“一,二,三。”
对一个副本来说,随着时间的流逝,定义它的数字必须每时每刻变化。一次又一次地重新计算,一个副本就是一连串的快照,电影——或者说电脑动画——的一帧帧画面。
但是……这些快照究竟是什么时候产生出有意识的想法的?在它们被计算的时候?还是在短暂的间歇期,当它们毫无变化地待在计算机的内存中,仅仅代表副本生活的一个静态瞬间的时候?当这两种阶段在每个主观秒中都要发生一千次时,这似乎并不重要,但很快……
嘎吱。“试验四。时间分辨率为五十毫秒。”
我是什么?数据?产生它的过程?数字之间的关系?
以上都是?
“一百毫秒。”
“一,二,三。”
保罗一边数数一边听着自己的声音——仿佛有点期待能开始注意到沉默的侵蚀,开始察觉到自身存在的间断。
“两百毫秒。”
五分之一秒的时间。“一,二。”他现在是以五个主观赫兹的频率闪现和消失吗?最原始的赛璐珞电影也未曾以这样的频率闪烁过。“三,四。”他在自己面前挥了挥手,动作看起来非常流畅,非常正常。当然如此,他又不是从外面看的。“五,六,七。”一股强烈的恶心感忽然间席卷了他,但他忍住了,继续数道:“八,九,十。”
“精灵”再次出现,发出一声短促而关切的尖叫:“怎么了?你想停一下吗?”
“不用。我没事。”保罗瞥了一眼这个朴实无华、阳光斑驳的房间,笑了。如果参照对象和受测对象刚刚给出了两个不同的回答,达勒姆会如何处理?他试着回想自己应对这种突发事件的预案,却想不起来了——也不太在意。这已经不是他的问题了。
嘎吱。“试验七。时间分辨率为五百毫秒。”
保罗数了数——事实是,他没有感觉到什么不同。有一点不安,是的——但除去所有紧张反胃的因素之后,他体验到的一切似乎都没有变化。这是有道理的,至少从长远来看——因为从长远来看,没有什么被遗漏。他的大脑模型只是在以半秒(模型时间)的间隔被完全描述——而每个描述仍然包括中间“本来会发生”的一切事情的结果。每隔半秒,他的大脑还是会落到仿佛不曾有任何事情被略过的状态。
“一千毫秒。”
但是……在那间隔中到底发生了什么?控制模型的方程太复杂了,不可能一步到位地解决。在求解的过程中,大量的不完全结果生成,又在进一步的过程中被抛弃。在某种意义上,这些不完全结果暗示着——即便它们并不直接代表——在相邻的完整描述之间的间隔期发生的事件。而当整个模型都是任意的,谁又能说这些更深地埋于数据洪流中的隐晦事件,比那些被直接描述的事件更“不真实”呢?
“两千毫秒。”
“一,二,三,四。”
如果他似乎说了(而且听到自己说)每一个数字,那是因为从他刚说“二”到他刚说“四”的这段时间里,对其大脑演变过程的计算的细节蕴含了他说过(而且听到自己说)“三”的效果。
“五千毫秒。”
“一,二,三,四,五。”
此外,听到他从未“真正”说过的话,并不比一个副本听到任何东西更奇怪。就连这个世界的标准毫秒时钟速率也过于粗糙,无法解析听力范围内的全部音调。[5]声音在模型中不是由气压值的波动——它无法以足够的速度变化——来表示的,而是靠音频功率谱:强度与频率的关系曲线。两万赫兹在这里只是一个数字、一个标签,实际上没有任何东西以这个频率振荡。真正的耳朵将压力波解析成各种音高的成分,而保罗知道他的大脑被直接输入了预设的功率谱值,这个值是模型中一个粗糙的补丁从并不存在的空气中抽取的。
“一万毫秒。”
“一,二,三。”
十秒钟的自由落体,从这一帧到下一帧。
保罗抵抗着眩晕感,继续稳稳当当地数数。他戳了戳厨刀在前臂上留下的浅浅的伤口。痛感很逼真。那么,这种体验是从哪里来的呢?十秒钟一旦结束,他得到完整描述的大脑会记得这一切……但这并不能解释此刻发生的事情。疼痛不仅仅是对疼痛的记忆。他努力想象着,间隔期间亿万次盘根错节的计算,在以某种方式体现自己的意义,填补着两帧之间的空隙。
他想知道:如果有人关闭电脑,直接拔掉插头——就在此时此刻,会发生什么?
不过,他不知道那意味着什么。在他自己的主观时间之外,他不知道“此时此刻”是什么时候。
“八,九,十。”
嘎吱。“保罗——我看到血压有轻微下降。你还好吗?你感觉如何?”
眩晕——但他说:“和以前一样。”如果这不是全然的实话,毫无疑问参照对象也说了同样的谎言。假设……
“告诉我——我是哪个?参照对象,还是被试对象?”
嘎吱。达勒姆答道:“我不能回答这个问题——我还在和你们两个人说话。但我要告诉你一件事:你们两个人仍然是一样的。有一些非常细微而暂时的差异,但它们现在已经完全消失了——而且只要你们两个处于可比较的表征中,所有超过几个神经元的发射模式都是一样的。”
保罗不屑地哼了一声。他无意让达勒姆知道这个实验有多么令人不安。“你期待什么?用两种不同的方法解决同一组方程,你当然会得到相同的结果——过程中会有一些四舍五入的微小差异。肯定如此。这是数学的确定性。”
嘎吱。“哦,我同意。”“精灵”用一根手指在屏幕上写下:
(1+2)+3=1+(2+3)
保罗说:“那么,为什么还要在这个阶段费事呢?我知道——我当时想着要缜密行事,要夯实基础。但事实是,这是对我们资源的一种浪费。干吗不跳过这些显而易见的步骤,接着搞那种答案还不是定论的实验?”
嘎吱。达勒姆皱起眉头,语带指摘:“我没想到你这么快就变得这么悲观。人工智能不是纯数学的一个分支,而是一门经验科学。假设必须得到检验。确认所谓的‘显而易见’没什么不光彩的,不是吗?如果这一切都那么直截了当,你为什么还要害怕?”
“我没有害怕。我只是想把事情搞定。但是……去吧,你觉得有必要的,你就去证明好了,然后我们可以继续推进。”
嘎吱。“计划就是这样的。不过我觉得我们现在都可以休息一下。我将启用你的通信——仅用于传入数据。”他转过身去,把手伸到屏幕外,在第二个终端上按了几个键。
然后他回过头来,微笑着看向镜头——保罗清楚地知道他要说什么。
嘎吱。“顺便说一下,我刚刚删除了你们中的一个。我可负担不起让你们两个人同时无所事事地运行。”
保罗回以微笑,尽管他内心有东西在尖叫。“你终止了哪一个?”
嘎吱。“有什么区别?我告诉过你,他们是一样的。而且你还在,不是吗?不管你是谁。不管你原本是哪一个。”
从扫描那天算起,外面已经过了三个星期,但保罗并没有花太多时间就掌握了世界的现状。大多数细枝末节都已经被后续事件夺了风头,变得无关紧要,许多的起起落落都归于平静。以色列和巴勒斯坦都指责对方违反水资源条约,几乎再次开战——但是一场联合和平集会在那片曾经是耶路撒冷的、像玻璃一样光滑的平原上聚集了一百多万人,双方政府被迫让步。美国前总统马丁·桑多弗仍在奋力避免被引渡到帕劳,以面对他在2035年血腥政变中扮演的角色所引起的指控。最高法院最终推翻了一项长期以来赋予他所有外国法律豁免权的裁决,有那么一两天,事情看起来很有希望——但随后他的法律团队发现了一套全新的拖延战术。在堪培拉,领导权撑过了又一场挑战,总理仍然没有被推翻。在一周前的报道中,一位记者直言不讳地将此描述为“一出好戏”。保罗想:我看这要亲自经历才能理解了。通货膨胀率下降了半个百分点,失业率上升了同样的数值。[6]
保罗快速浏览了过期的新闻报道。一些文章直接略过,一些场景快速播放,而他确信,如果这些材料是新鲜的,他肯定会仔细研究的。他心中涌出一种奇怪的怨恨,因为他“错过”了那么多东西——现在,一切都在他面前,但这完全不一样。
然而,他在思量,难道他不应该为自己没有在那么多瞬息万变的细节上浪费时间而感到欣慰吗?他现在不那么着迷这一事实本身只能证明,从长远来看,这一切是多么地不重要。
那么,什么重要呢?人类的生活并没有地质时间那么漫长。人类的生活以小时计、以天计,他们只能关心这个时间尺度上的事情。
人类。
保罗接入实时电视,看着一集《不明一家》在不到两分钟内闪过,背景音乐变成了无法理解的尖叫。一个游戏节目,一部战争电影,晚间新闻。他仿佛身处深空,在多普勒频移过的广播海洋中冲向地球。这个画面让人感到奇怪的安慰。如果有血有肉的人类也能像他一样发现自己与世界的关系,那么他的处境终究也没那么奇怪了。没有人会说多普勒频移会剥夺某人的人性。
黄昏笼罩了这座由录像形成的城市。他吃着微波炉加热的大豆蛋白——思考着自己是否还有充分的理由继续做一个素食者,不管是道德上的还是其他方面的。
他一直听音乐到午夜后很久。臧昭、迈克尔·尼曼、菲利普·格拉斯。别管是每个音符“确实”持续了十七倍的时长,还是播放器里的音频只读存储器“真的”没有微观结构,还是“声音”本身是通过计算机里的某种与普通的听觉过程毫无相似之处的把戏输入他的大脑模型,效果都是一样的。格拉斯的《三岛》的高潮仍然像抓钩一样抓住了他的心。
如果这一切背后的计算是由人们拨弄着算盘珠子,历经千年完成的,他的感觉会不会完全一样?
极难接受——但答案只能是肯定的。
他躺在床上,心里想着:我还想从这个梦中醒来吗?
不过,这个问题还是只有理论意义。他仍然没有选择。