第四节　人工智能对人类发起挑战

一、人工智能对就业的影响

面对人工智能的冲击，许多人已经开始担忧自己的工作是否会被人工智能所取代，或者只能在人工智能所留下的“夹缝”中生存。这是因为人工智能对劳动力市场的冲击范围、力度、持续性和极化效应等，都将远远超过以往技术革命的影响。首先，人工智能技术有许多人力不可比拟的优势。人工智能不受外部环境的干扰，它可以稳定、可靠、不间断地工作。这些技术的准确性要比人类工作者高很多，而且不受饥饿、疾病、疲劳等外部条件的影响。自动化的工作容易标准化和同步，可以极大提高企业的工作效率，实现更好的控制和更高的透明度。在决策过程中，计算系统会根据客观的指标和事实做出判断，而不会受情绪偏好等主观因素的影响，如表2-3所示。因此，人工智能技术的深度应用可能会短时期内消灭一些旧产业，或对某些产业进行重塑，引发比较激烈的就业动荡。再者，人工智能的就业替代效应可能会持续相当长的时间，甚至形成“极化效应”。此外，人工智能是个通用技术，会像电力一样逐渐应用到几乎所有的行业中，让从业者受到影响。

以往的许多技术进步只是从体力上替代劳动力，但人工智能技术也会对很多脑力型就业岗位形成替代，甚至对律师、医生、金融从业者等高级白领都会形成很大的冲击。虽然机器无法像人一样思考和推理，但由于海量数据的训练，近年来的机器学习算法已经可以做越来越多只有人可以做的事情了。

数字技术的扩散已经让很多银行实体网点逐步关闭，很多相应的从业者也失去了这些工作岗位。根据花旗银行和牛津大学联合发布的报告《工作中的科技：未来的创新与就业》显示，在2004至2013年间，主要发达国家/地区每10万成人所拥有的银行网点数量基本都经历了“先扩张后紧缩”的过程，尤其是荷兰、丹麦、挪威和比利时等国家，分别下降了48.3%，39.6%，31%和27.5%（如表2-4所示）。

专栏2-4　关于人工智能对未来就业影响的预测

目前，人工智能技术在各行业的应用尚未完全展开，其对就业的影响尚难预测，但已有一些研究从自动化和机器人的角度分析了这些技术的就业影响。例如，Acemoglu和Restrepo分析了美国1990至2007年间劳动力市场的数据，发现机器人的比例每增加千分之一，就会减少0.18%～0.34%的就业岗位，并让工资下降0.25%～0.5%。

一些学者和研究机构也展开了对人工智能对就业影响的预测。其中，Frey和Osborne的预测方法有较大的影响力。他们对美国的702个就业岗位的职业特征和被人工智能替代的概率进行了分析，如图2-11所示，分析结果表明47%的岗位面临着被人工智能替代的风险，如表2-5所示。Chui等人预测美国45%的工作活动将依靠现有技术水平的机器来完成；而如果人工智能系统的表现可以达到人类中等水平，那么该数字将增至58%。Bowles发现欧洲易受人工智能影响的工作份额在45%～60%以上。据David的研究，日本未来几年有55%的就业机会将会受到新技术的冲击。Berriman和Hawksworth预测到2030年英国将有1 000万左右的工作可能被机器替代，占全部工作岗位的30%，而美国、德国、日本的这个比率分别为38%、35%和21%。据牛津大学和花旗银行的联合报告预测，未来人工智能或机器人对OECD（经济合作与发展组织）国家工作岗位的平均替代率是57%，印度是69%，中国将会有77%的岗位实现自动化。也有学者利用问卷调查让从业者对自己的工作被人工智能替代主观预测，例如Morikawa就利用此方法，发现在日本有30%的人担忧自己的工作被人工智能替代，尤其是年轻人和非正式就业的员工。

然而，也有观点认为，上述这些预测太过悲观了。实际上，人类能做的事情远比我们所能描述的更多。Arntz等认为，Frey和Obsborne对未来计算机技术的进步过于乐观，很多高风险行业中的一些任务并不容易被机器替代。他们以任务而非职业为基础的研究方法，预测了21个OECD国家的就业岗位被机器替代的高风险概率只有9%。这个预测的进步在于，考虑每个职位中所包含的具体工作内容，而不是按整个岗位简单计算。一般而言，新技术进步只能在具体任务中替代劳动力，但不会消灭整个职业。Bessen的最近一项研究表明，1950年，在美国人口普查中列出的270个职业中，只有电梯运营员这个职业在2010年由于自动化会被淘汰。技术能改变工作的执行情况和需要执行的人数，但是不一定消除整个职业。创造或是破坏就业机会不仅取决于技术可行性，还受到经济、法律、监管或社会政治等因素的制约。

二、人工智能科技对人口健康的影响

人类发展科技的一个很大动力就是“偷懒”，即节约时间和劳力，提高效率。人工智能等技术进步会将人从许多繁重琐碎的劳动中解放出来，但与此同时，也不断加深了人对机器的依赖。技术的供给也会自动创造需求，各种智能机械和网络服务可以让人足不出户就可以解决许多生活、娱乐甚至工作的需求，使得人类在身体上变得越发怠惰，从而造成身心健康的变化。

2017年，全球肥胖人群的数量已经超过20亿，而且有不断扩大的趋势。美国是目前“人口大国”中青少年肥胖率最高的国家，有接近13%的青少年都属于肥胖群体。从数量来看，中国和印度的肥胖儿童数量是最多的两国，中国达到1 530万人，印度达到1 440万人，但是成年人肥胖数量最多的是美国，达到7 940万人，其次是中国，数量为5 730万人。肥胖可导致一系列并发症或者相关疾病，心血管疾病、糖尿病和某些肿瘤的发生率明显上升，进而影响肥胖者的预期寿命或者导致生活质量下降。据统计，全球每年因为超重或肥胖问题死亡的人数超过400万人。美国人均预期寿命的增长相较于过去十年明显放缓，2015年甚至略有降低，而肥胖症和糖尿病是预期寿命增长放缓的重要因素。

科幻电影《机器人总动员》描绘了一幅未来人类与机器的关系：人类乘坐飞船离开了受核污染而不能居住的地球，机器人负责飞船的一切运营，从清洁、安保、食物供给，到船长顾问都是由机器人负责，而人类只需躺在自动椅上，由机器负责移动和供给吃喝玩乐，身体肥胖，基本失去了步行的功能。这也可能成为人类将来的局部现实。

三、人工智能科技对隐私的挑战

当今社会，各种智能终端、传感器大量普及。借助便捷的信息采集技术，人们的所有个人行为、性格偏好、兴趣爱好、社交网络都可以被信息化、数据化。而通过相应的智能算法，就能准确地画出每一个人的“数据画像”。这也就意味着，在大数据采集、分析和人工智能技术面前，人们不再拥有传统意义上的“隐私”。

数字经济时代的特征是开放与竞争，但同时，数字经济对规模的内在需求将使市场结构最终可能走向垄断。数据越多、网络规模越大，才能形成大规模级别的需求网络效应，对于工业应用平台、社交网络及电子商务平台等竞争优势的形成至关重要。因此，竞争的结果将会是少数企业成为数字基础设施或平台的构建者，大多数前端企业依附这些“超级明星企业”的平台进行运营，形成“平台+海量前端企业”的生态系统之间的竞争模式。这些超级公司为大量中小企业和用户提供普遍服务，但同时也在不断迅速积累使用者的数据，数据安全成为一个重大的社会问题。

与公共部门相比，商业机构，特别是掌握大量消费者数据的平台企业，将会是消费者受到隐私泄漏与“算法歧视”威胁的最大风险源。在完全没有外部规制的条件下，有些商家有足够的动力根据消费者的个人偏好向其推荐特定商品或服务，并根据消费者的收入水平、消费倾向而“因人定价”，以实现利润最大化。第二种常见的行为则是消费者个人信息被泄漏和不当使用，如Facebook和剑桥分析公司的信息泄漏案就是这样的典型案例。第三种行为则是“消费者歧视”或“拒绝服务”。例如，保险公司拒绝向特定人群（如特定基因携带者或特定行为人群）提供保险，这一点在“人工智能+大数据”分析的今天已经不难做到。

四、人工智能对社会公平的影响

如今的人工智能技术的核心在于利用海量数据训练出算法模型，从而根据新的数据做出最大概率事件的预测和决策。其中的风险在于：基于机器学习、特别是自主学习的“黑箱”特征，人们并不能够保证学习得到算法的公平性、合理性，因为它只能保持“近似正确”，从而有可能产生误判。数据输入和算法模型可以决定预测的结果，这是算法歧视的主要来源。一方面，数据本身是现实世界的局部反映，其准确性、有效性和完整性等特征会影响算法模型的公正性，从而对某些未被涵盖的群体形成算法歧视。另一方面，算法的设计、目的、方法、标准等都是基于设计者或开发者的主观选择，他们很可能将自己的主观价值嵌入到算法系统中，从而形成算法歧视。例如，目前85%以上的机器学习设计者都是男性，这可能会在无意识中造成算法系统中对女性特征和需求的忽视。

五、人工智能对安全的影响

以往的自动化只是机器执行人类设计好的命令和程序，然而人工智能技术可以实时根据新的数据做出决策并执行相应的行为，其不可预测性和不可控性极大提高，埋下了很大的安全隐患。目前的人工智能技术还停留在弱人工智能阶段，但是未来可能发展出强人工智能和超人工智能，除了没有人类的主体意识之外，人工智能的能力将远超人类的水平。包括霍金、比尔·盖茨和马斯克等科技人士都不断警告人工智能可能威胁人类的生存。机器的能力越强，人类对机器的依赖越深，其破坏力也将越高。就如核能一样，虽然带来了巨大的能源供给，但也使人类笼罩在核事故或战争的威胁之下。

人工智能没有情感和价值判断，人类只能从算法和规则等方面去约束其行为，但还是难以防止意外事件的发生，而后果可能都是巨大的生命财产等作为代价。如果这种超强能力被少数人恶意利用，就会对社会形成不可挽回的伤害。与此同时，机器造成的人身、财产伤害也将对责任认定形成挑战。如果没有合理的规制，将来人们在日常生活、工作、娱乐的环境中都是与这些“不负责任”的机器为伴，安全将难以得到保障。

六、人工智能对社会伦理的挑战

随着人类与人工智能的频繁互动，可能逐渐形成互为嵌入式的新型人机关系。时间与空间的界限被打破，虚拟与真实也被随意切换，越来越多人可能陷入数字虚拟世界而与现实世界相隔离。例如，虚拟现实技术通过计算机和相关感知设备，创造出虚拟世界，使得人在其中有接近真实世界的体验和感受。虚拟现实技术营造的感观体验基本上是以个人体验为中心的，可能导致当人们沉浸其中时，由于缺乏主体间的交流而产生“自闭”心态，进而对现实世界漠不关心，甚至产生反感或抵触情绪。随着虚拟现实和增强现实的技术的进一步发展，真实与虚拟世界的边界可能会被进一步模糊，使人们对真实世界的理解产生剧烈的变化。

《未来简史》的作者赫拉利认为，幸福快乐的感觉也可以利用技术方式不断刺激而获得。虚拟世界可以让人感受现实中无法经历的刺激体验，从而获得极大的满足感。当大量的刺激都由虚拟世界提供时，现实世界的刺激可能对很多人失去吸引力。大量心理学实验已经证实人类大脑是具有可塑性的，容易被环境无意识地改造。虚拟现实可能会对人的行为产生影响，而这种影响会延续到现实世界。虚拟世界的道德价值观与现实世界完全不同，长期沉浸其中使得参与者模糊道德认知，迷失自我，以致不能理性地担任现实社会中的角色。

当今各种逼真虚拟情境的网络游戏已经成为很多人的重要娱乐方式，不少人已经沉迷其中不能自拔，尤其是青少年。根据《2019年全国未成年人互联网使用情况研究报告》显示，2019年我国未成年网民规模为1.75亿，未成年人互联网普及率达到93.1%。城乡未成年人的数字差距进一步弥合，城镇未成年人互联网普及率达到93.9%，农村未成年人达到90.3%，两群体的差异较2018年的5.4个百分点下降至3.6个百分点。中国青少年首次接触网络游戏的年龄呈日益低龄化的趋势。6～14岁是青少年心智逐渐成熟、习惯逐渐培养的关键阶段，网络游戏对他们的世界观和价值观的形成会有重大的影响。

不仅在游戏领域，虚拟技术已经开始应用到教育和医疗等多个领域。这些技术在给人口很多福利的同时，也在不断增加人们对技术的依附性。电影《黑客帝国》描绘的一幅未来场景值得深思：人类的身体被束缚在培养体中，但是大脑活动陷入超级人工智能“母体”（Matrix）所创造的虚拟现实中而毫不自知。虽然这是科幻作品，但其所体现的虚拟与真实世界的冲突已经在今天逐渐显现出来，对人类社会的发展将产生影响。

[1] 李彦宏等. 智能革命：迎接人工智能时代的社会、经济与文化变革[M]. 北京：中信出版社，2017.

[2] 清华大学中国科技政策研究中心. 中国人工智能发展报告2018[R], 2018.

[3] 顾险峰. 人工智能的历史回顾和发展现状[J]. 自然杂志，2016，38(03):157-166.

[4] 清华大学中国科技政策研究中心. 中国人工智能发展报告2018[R]. 北京，2018.

[5] https://store.dji.com/cn/product/mavic-2?utm_medium=baidu-sem&utm_source=baidu-sem&utm_term=chuchuang1&utm_content=shangpinchuchuang&utm_campaign=shantou&vid=45291.

[6] https://help.aliyun.com/document_detail/84881.html?spm=5176.12061031.1251431.5.78ee3cb4KzaxUX.

[7] 清华大学中国科技政策研究中心. 中国人工智能发展报告2018[R]. 北京，2018.

[8] Watson落地中国之后：你最可能在哪儿见到它？http://www.sohu.com/a/110494608_313392.

[9] 北京大兴国际机场正式投运，商汤AI技术助力服务全球旅客https://www.sensetime.com/news/view/id/174.html.

[10] http://www.huace.cn/cases/cases_show/123？renqun_youhua=449797.

[11] 霍思伊. 或然世界：AI和艺术的短兵相接[N].中国新闻周刊，2019-7-22(908).

[12] 深扒：苹果首任AI总监Ruslan Salakhutdinov究竟是何方神圣？https://m.leiphone.com/news/201610/ RKt1tarAjeqD4dEe.html