2.5 国内外人工智能标准研究
2.5.1 国际人工智能标准研究
IEEE早在2016年便开始发出“关于自主与智能系统伦理的全球倡议”[81]。该倡议由专门负责研究人工智能和自主系统中伦理问题的IEEE全球计划下属各委员会，包括由人工智能、伦理学、政治学、法学、哲学等相关领域的100多位专家共同完成,号召设计伦理原则和标准，帮助人们避免对人工智能技术的恐惧。
ISO/IEC（国际标准化组织/国际电工委员会）成立人工智能可信研究组，开展人工智能安全标准研究。ISO/IEC JTC 1/SC 42人工智能分技术委员会于2017年10月成立，负责研究制定人工智能国际标准。SC 42已成立5个工作组，包括基础标准（WG1）、大数据（WG2）、可信赖（WG3）、用例与应用（WG4）、人工智能系统计算方法和计算特征工作组（WG5）；此外，SC 42也包含人工智能管理系统标准咨询组（AG1）、智能系统工程咨询组（AHG3）等。
WG3组重点关注人工智能可信赖和伦理问题，已开展人工智能可信度、鲁棒性评估、算法偏见、伦理等标准研制工作。WG3组所研究的标准项目包括《信息技术 人工智能 人工智能系统中的偏差与人工智能辅助决策》 （ISO/IEC NP TR 24027）[82]、《信息技术 人工智能、人工智能可信度概述》 （ISO/IEC PDTR 24028）[83]、《人工智能 神经网络鲁棒性评估 第1部分：概述》 （ISO/IEC CD TR 24029-1）[84]、《人工智能 神经网络鲁棒性评估 第2部分：形式化方法》 （ISO/IEC TR 24029-2）[85]、《信息技术 人工智能 风险管理》 （ISO/IEC AWI 23894）[86]、《信息技术 人工智能 伦理和社会关注概述》 （ISO/IEC AWI TR 24368）[87]、《软件和系统工程 软件测试 第11部分：人工智能系统测试》 （ISO/IEC NP TR 29119-11）[88]。
ISO机器人检测标准分成两大类：工业机器人与个人助理机器人。具体由ISO/TC299（国际标准化组织/机器人标准化技术委员会）承担机器人标准化工作，重点在于制定安全与性能测试标准。ISO/TC299共有8个工作组，其中，ISO/TC299/WG2工作组完成了个人助理机器人领域第一个安全标准——《个人护理机器人的安全要求》 （ISO 13482：2014），ISO/TC299/WG3关注工业安全，目前工业机器人标准已比较完善，本体安全与集成安全的标准已修订完成。
另外，ISO/IEC主要制定涉及家用服务机器人的安全和性能、工业机器人的功能安全和医疗机器人安全等标准，其标准化工作主要由TC59、TC61、TC62、TC116技术委员会承担。
在ITU-T（国际电信联盟电信标准分局）中，SG17安全研究组和SG16多媒体研究组开展了人工智能安全相关标准研制。其中，ITU-T SG17已经计划开展人工智能用于安全以及人工智能安全的研究、讨论和相关标准化项目。
IEEE开展了多项人工智能伦理研究，发布了多项人工智能伦理标准和研究报告。IEEE 成立了IEEE P7000伦理生命周期问题的工程方法研究工作组[89]，并组织研究了一系列的标准，主要包括《自主系统的透明度》 （IEEE P7001）[90]、《数据隐私处理》 （IEEE P7002）[91]、《算法偏见注意事项》 （IEEE P7003）[92]、《儿童和学生数据治理标准》 （IEEE P7004）[93]、《透明雇主数据治理标准》 （IEEE P7005）[94]、《个人数据人工智能代理标准》 （IEEE P7006）[95]、《伦理驱动的机器人和自主系统的本体标准》 （IEEE P7007）[96]、《机器人、智能与自主系统的伦理驱动推进工作标准》 （IEEE P7008）[97]、《自主和半自主系统的失效安全设计标准》 （IEEE P7009）[98]、《合乎伦理的人工智能与自主系统的福祉度量标准》 （IEEE P7010）[99]、《新闻信源可信度识别和评级过程标准》 （IEEE P7011）[100]、《机器可读个人隐私条款标准》 （IEEE P7012）[101]、《人脸自动分析技术的收录与应用标准》 （IEEE P7013）[102]、《在自主和智能系统中情感模拟的伦理关注标准》 （IEEE P7014）[103]。
目前，国际上人工智能现有标准主要为人工智能技术、应用领域的通用标准，人工智能安全、伦理、隐私保护等相关安全标准大多仍处于研究阶段，针对人工智能相关的数据、智能算法、决策模型等安全评估仍然不足。
2.5.2 中国人工智能标准研究
我国在《新一代人工智能发展规划》中强调，要加强人工智能标准框架体系研究。即要坚持安全性、可用性、互操作性、可追溯性原则，逐步建立并完善人工智能基础共性、互联互通、行业应用、网络安全、隐私保护等技术标准。加快推动无人驾驶、服务机器人等细分应用领域的行业协会和联盟制定相关标准。鼓励人工智能企业参与或主导制定国际标准，以技术标准“走出去”带动人工智能产品和服务在海外推广应用。加强人工智能领域的知识产权保护，健全人工智能领域技术创新、专利保护与标准化互动支撑机制，促进人工智能创新成果的知识产权化。建立人工智能公共专利池，促进人工智能新技术的利用与扩散。
全国信息技术标准化技术委员会主要在人工智能术语、人机交互、生物特征识别、大数据、云计算等领域开展人工智能标准研究，已发布多项标准，如《信息技术 词汇 第28部分 人工智能 基本概念与专家系统》 （GB/T 5271.28-2001）[104]、《信息技术词汇第29部分 人工智能语音识别与合成》 （GB/T5271.29-2006）[105]、《信息技术 词汇 第31部分 人工智能机器学习》 （GB/T 5271.31-2006）[106]、《信息技术 词汇 第34部分 人工智能神经网络》 （GB/T 5271.34-2006）[107]。
全国信息安全技术标准化技术委员会（TC260）作为专业的安全标准化组织，在自动驾驶、生物特征识别、智慧城市等方面开展人工智能安全标准研究，立项研究项目包括《人工智能安全标准研究》、《信息安全技术 人工智能应用安全指南》、《信息安全技术 基于可信环境的生物特征识别身份鉴别协议》、《信息安全技术 指纹识别系统技术要求》、《信息安全技术 网络人脸识别认证系统安全技术要求》、《信息安全技术 生物特征识别信息的保护要求》、《信息安全技术 智能家居安全通用技术要求》等，发布了《信息安全技术 虹膜识别系统技术要求》 （GB/T 20979-2007）[108]、《信息安全技术 基于可信环境的生物特征识别身份鉴别协议框架》 （GB/T 36651-2018）[109]、《信息安全技术 指纹识别系统技术要求》 （GB/T 37076-2018）[110]等标准，在研或发布国家标准20余项。
此外，全国自动化系统与集成标准化技术委员会主要关注工业机器人的整机、系统接口、零部件和控制器等方面。全国音频、视频和多媒体标准化技术委员会主要针对音视频、智慧医疗健康产品等方面进行研究。全国智能运输系统标准化技术委员会主要在智能交通领域开展标准制定。
中国通信标准化协会下设的多个技术委员会都在开展人工智能标准研究。对于人工智能安全标准，主要由网络与信息安全技术工作委员会（CCSA-TC8）开展，已发布《智能家居终端设备安全能力技术要求》 （YDB 201-2018）、《智能家居网络系统安全技术要求》 （T/CSHIA 001-2018）等标准，正在研制《人工智能产品、应用及服务的安全评估指南》、《人工智能服务平台安全评估要求》、《人工智能终端产品标准体系研究》、《移动智能终端人工智能能力及应用个人信息保护技术要求及评估方法》、《移动智能终端人脸识别安全技术要求及测试评估方法》等标准。
中国人工智能开源软件发展联盟是从事人工智能开源软件相关工作的社会组织。该联盟于2018年7月公布了首个人工智能深度学习算法标准《人工智能 深度学习算法评估规范》 （AIOSS-01-2018）；该联盟还编制了《信息技术 人工智能 小样本机器学习样本量要求和算法评价指标》 （CESA-2018-4-001）、《信息技术 人工智能 音视频及图片分析算法接口》 （CESA-2018-4-002）、《信息技术 人工智能 机器学习模型质量》 （CESA-2018-4-003）、《信息技术 人工智能 面向机器学习的系统框架和功能要求》 （CESA-2018-4-004）、《信息技术 人工智能 智能助理能力等级评估》 （CESA-2018-4-005）、《信息技术 人工智能 机器翻译智能能力等级评估》 （CESA-2018-4-006）、《信息技术 人工智能 面向机器学习的数据标注规程》 （CESA-2018-4-007）、《信息技术 人工智能 服务能力成熟度评价参考模型》 （CESA-2018-4-008）、《信息技术 人工智能 城市污水处理过程智能预警技术要求》 （CESA-2018-4-009）、《面向深度学习的服务器通用规范》 （CESA-2018-4-010）、《信息技术 人工智能 驾驶员驾驶状态预警系统技术要求》 （CESA-2018-4-011）等。
2018年1月，中国电子技术标准化研究院发布了《人工智能标准化白皮书（2018版）》[111]，制定了引导人工智能产业发展的标准体系，提出近期急需研发的基础和关键标准项目。2019年10月，全国信息安全标准化技术委员会发布了《人工智能安全标准化白皮书（2019版）》[112]，对人工智能安全标准化需求进行了深入辨析，提出人工智能安全标准框架和标准化工作建议。在《人工智能安全标准化白皮书（2019版）》中给出了人工智能安全标准体系结构,包括“基础标准”、“数据与算法模型”、“技术和系统”、“管理和服务”、“测试评估”、“产品和应用”六个部分，如图2-1所示。
图2-1 人工智能安全标准体系结构
图片来源：《人工智能安全标准化白皮书（2019版）》
需要指出的是，在人工智能安全标准方面，我国主要集中在机器人、生物特征识别、智能网联汽车等少数应用领域，以及大数据安全、隐私保护等支撑类安全标准，而与人工智能自身安全或基础共性相关的安全参考架构、安全评估、伦理设计、安全要求和测评方法等标准仍然很少。