1.5 人工智能与安全

跟其他高科技一样，人工智能也是一把双刃剑。认识人工智能的社会影响，正在日益得到人们的重视（见图1-19）。2018年2月，牛津大学、剑桥大学和OpenAI公司等14家机构共同发布题为《人工智能的恶意使用：预测、预防和缓解》的报告，指出人工智能可能给人类社会带来数字安全、物理安全和政治安全等潜在威胁，并给出了一些建议来减少风险。

1.5.1 安全问题不容忽视

人工智能的飞速发展一定程度上改变了人们的生活，但与此同时，由于人工智能尚处于初期发展阶段，该领域的安全、伦理、隐私的政策、法律和标准问题引起人们的日益关注，直接影响人们与人工智能工具交互对其的信任。

有些研究者认为，让计算机拥有智商是很危险的，它可能会反抗人类。这种隐患已经在多部电影中出现过，其关键是允不允许机器拥有自主意识的产生与延续，如果使机器拥有自主意识，则意味着机器具有与人同等或类似的创造性、自我保护意识、情感和自发行为。

人工智能最大的特征是能够实现无人类干预的，基于知识并能够自我修正地自动化运行（见图1-20）。在开启人工智能系统后，人工智能系统的决策不再需要操控者进一步的指令，这种决策可能会产生人类预料不到的结果。设计者和生产者在开发人工智能产品的过程中可能并不能准确预知某一产品会存在的可能风险。因此，人工智能的安全问题不容忽视。

由于人工智能的程序运行并非公开可追踪，其扩散途径和速度也难以精确控制。在无法利用已有传统管制技术的条件下，想要保障人工智能的安全，必须另辟蹊径，保证人工智能技术本身及在各个领域的应用都遵循人类社会所认同的伦理原则。

1.5.2 设定伦理要求

人工智能是人类智能的延伸，也是人类价值系统的延伸。在其发展的过程中，应当包含对人类伦理价值的正确考量。设定人工智能技术的伦理要求（见图1-21），要依托于社会和公众对人工智能伦理的深入思考和广泛共识，并遵循一些共识原则。

一是人类利益原则，即人工智能应以实现人类利益为终极目标。这一原则体现了对人权的尊重、对人类和自然环境利益最大化，以及降低技术风险和对社会的负面影响。在此原则下，政策和法律应致力于人工智能发展的外部社会环境的构建，推动对社会个体的人工智能伦理和安全意识教育，让社会警惕人工智能技术被滥用的风险。此外，还应该警惕人工智能系统做出与伦理道德偏差的决策。

二是责任原则，即在技术开发和应用两方面都建立明确的责任体系，以便在技术层面可以对人工智能技术开发人员或部门问责，在应用层面可以建立合理的责任和赔偿体系。在责任原则下，在技术开发方面应遵循透明度原则；在技术应用方面则应当遵循权责一致原则。

1.5.3 强力保护个人隐私

人工智能的发展是建立在大量数据的信息技术应用之上，不可避免地涉及个人信息的合理使用问题，因此对于隐私应该有明确且可操作的定义。人工智能技术的发展也让侵犯个人隐私的行为更为便利，因此相关法律和标准应该为个人隐私提供更强有力的保护（见图1-22）。

此外，人工智能技术的发展使得政府对于公民个人数据信息的收集和使用更加便利。大量个人数据信息能够帮助政府各个部门更好地了解所服务的人群状态，确保个性化服务的机会和质量。但随之而来的是，政府部门和政府工作人员不恰当使用个人数据信息的风险和潜在的危害也在提升。

人工智能环境下的个人数据获取和知情同意应该重新进行定义。首先，相关政策、法律和标准应直接对数据的收集和使用进行规制，而不能仅仅征得数据所有者的同意；其次，应当建立实用、可执行的、适应于不同使用场景的标准流程以供设计者和开发者保护数据来源的隐私；再次，对于利用人工智能可能推导出超过公民最初同意披露的信息的行为应该进行规制。最后，政策、法律和标准对于个人数据管理应该采取延伸式保护，鼓励发展相关技术，探索将算法工具作为个体在数字和现实世界中的代理人。

涉及的安全、伦理和隐私问题是人工智能发展面临的挑战。安全问题是让技术能够持续发展的前提。技术的发展给社会信任带来了风险，如何增加社会信任，让技术发展遵循伦理要求，特别是保障隐私不会被侵犯是急需解决的问题。为此，需要制定合理的政策、法律、标准基础，并与国际社会协作。建立一个令人工智能技术造福于社会、保护公众利益的政策、法律和标准化环境，是人工智能技术持续、健康发展的重要前提。

在科技发展日新月异的今天，人工智能受到越来越多的关注。其实，在电影中，也不乏人工智能的身影，它们大多拥有酷炫的外表、丰富的情感和高超的本领，对未来的人类社会和人工智能的发展进行了大胆设想。

例如，《人工智能》是由华纳兄弟影片公司于2001年拍摄发行的一部未来派的科幻类电影（见图1-23）。影片讲述21世纪中期，人类的科学技术已经达到了相当高的水平，一个小机器人为了寻找养母，缩短机器人和人类差距而奋斗的故事。

在机器人的发展过程中，赋予机器人以情感是最富有争议的，也是尚未能完全做到的事。通常机器人被视作为一个极其复杂的装置，人们认为他们不会具备感情。但是，有很多父母失去了自己的孩子，时代的需要就使这种可能性大大增加了。终于，Cybertronics Manufacturing制作公司着手解决了这个问题，制造出了第一个具有感情的机器人，他的名字叫大卫。

作为第一个被输入情感程序的机器男孩，大卫是这个公司的员工亨瑞和他妻子的一个试验品，他们夫妻俩收养了大卫。而他们自己的孩子却最终因病被冷冻起来，以期待有朝一日，有一种能治疗这种病的方法会出现。尽管大卫逐渐成了他们的孩子，拥有了所有的爱，成为家庭的一员。但是，一系列意想不到的事件的发生，使得大卫的生活无法进行下去。

人类与机器最终都无法接受他，大卫只有唯一的一个伙伴机器泰迪——他的超级玩具泰迪熊，也是他的保护者。大卫开始踏上了旅程，去寻找真正属于自己的地方。他发现在那个世界中，机器人和机器之间的差距是那么的巨大，又是那么的脆弱。他要找寻自我、探索人性，成为一个真正意义上的人。