人工智能安全国际标准化进展研究

本文探讨了人工智能及其产业发展中的标准化问题，特别是人工智能安全领域国际标准化工作的现状与未来方向。文章指出，人工智能安全标准是构建人工智能标准体系的重要组成部分，在推动技术创新和产业发展方面具有关键作用。通过分析多个国际标准组织（如ISO/IEC、ITU-T、ETSI、IEEE、NIST）的研究进展，可以发现当前人工智能安全标准化工作处于初级阶段，重点围绕基本概念、可信赖框架、评估方法等基础议题展开，并对伦理安全原则等潜在方向予以铺垫。
文章还强调了我国在人工智能技术应用和数据规模方面的优势，并提出应积极参与国际标准化工作。建议包括充分发挥企业优势，推动我国专家参与国际标准制定；同时建议我国应注重与国外的协调一致，并借助国际力量丰富国内标准体系。此外，文章还展望了我国人工智能产业的发展潜力，并提出了相关策略以提升在全球范围内的影响力和技术话语权[4][5]。
综上所述，文章为我国进一步深化人工智能安全领域国际标准化工作提供了宝贵的参考和思路[4][5]。

摘要

关键词 ：人工智能技术；人工智能安全；标准化

0 引言

作为一种引领未来的关键技术领域,AI正在逐步成为推动社会经济各领域数字化、网络化向智能化加速转型的核心驱动力,其在促进人类文明发展和社会进步方面发挥着广泛而深远的影响,同时也伴随着安全标准体系的不断完善以应对潜在风险挑战。各国主要发达国家纷纷制定人工智能发展战略规划,致力于平衡技术创新与安全风险防范之间的关系,其中标准化工作是推动这一过程的重要环节,其涵盖的内容从网络安全到隐私保护等多维度展开,通过多方协作不断丰富和完善相关标准体系,为保障人工智能健康发展奠定基础。

1 人工智能安全国际标准研究进展

1.1 ISO/IEC JTC1

国际标准组织/国际电工委员会的联合技术委员会（JTC1）下设立的人工智能安全标准化工作组主要由SC42（人工智能领域）和SC27（信息安全领域）组成；其标准化研究项目涵盖的人工智能安全领域见表1。

表1 ISO/IEC JTC1人工智能安全标准项目概况

SC42于2017年10月正式建立，在ISO/IEC体系中担任人工智能领域首要的标准制定和管理角色。该组织的WG3小组负责人工智能安全标准的研发与管理[1]。随着传统信息安全体系中保密性、完整性、可用性等理念难以满足新兴技术应用需求，在安全领域内对"可信性"概念的关注度日益提升。人工智能领域的可信性主要体现在可靠性、可用性、弹性、安全性以及责任等方面，并伴随透明度和完整性等特性共同作用以保障系统安全运行。目前SC42可信赖工作组正在推进涵盖人工智能可信赖概述、风险管理、系统偏见等多个方面的标准化研究工作；其中ISO/IEC TR 24028首次明确了人工智能系统的可信基本概念及其技术脆弱性因素，并提出部分缓解措施及其有效性评估指标；基于通用风险管理框架ISO/IEC 31000原则下制定的人工智能安全风险管理方法则着重考虑了风险评估的关键要素并提供相应的应对策略；致力于减少AI辅助决策系统偏见影响的技术规范则通过提供评估技术和方法为相关领域的发展提供支持；针对AI技术应用中的人身安全保护功能实现方面已提出具体方法；现有神经网络鲁棒性评估方法系统的梳理与优化工作正通过一系列报告逐步完善；此外还就评估方法的选择及应用管理提出了建议；同时为AI伦理问题提供了概述性的研究结果。截至本报告发布之日（2021年5月），SC42已发布两项与人工智能安全相关的技术报告ISO/IEC TR 24028及TR 24029-1,其余相关标准和技术文件均处于研发阶段中

此外

1.2 ITU-T

其人工智能工作则涵盖了多个专门化研究团队，在此框架下开展各项技术探讨与规范制定活动。这些专门化团队主要涵盖以下几大领域：其一是负责网络安全相关的技术研究；其二是致力于推动环境变化监测与适应技术的发展；其三是专注于多媒体通信技术和数据处理方法的研究；其四是负责探索业务运作模式及电信管理系统的技术优化路径等多方面内容。其中相关的人工智能安全标准项目可在表2中找到详细说明。

表2 ITU-T人工智能安全标准项目概况

SG17安全研究组对人工智能安全标准的制定格外重视，并于2019年1月21日，在瑞士日内瓦组织召开了为期一天的人工智能、机器学习与信息安全领域的学术研讨会[2]。会议期间，SG17确定将人工智能安全确立为其未来标准化工作的重点方向，并致力于填补相关领域的空白。会议期间形成的多项讨论内容已形成初步结论并将在后续阶段进一步完善。目前 SG17 已经完成了三份核心技术报告的研究工作，在涵盖机器学习安全应用、人工智能技术应用安全管理等多个方面展开深入探讨。其中一项重要成果是提出了基于机器学习构建反垃圾邮件技术框架方案；另一项成果则是利用全同态加密技术开发了机器学习的安全推理服务与数据聚合的安全指导方案[3]。值得注意的是，在本年度4月的 SG17 完成会上, 该组织启动了一项关键项目——《人工智能安全关键技术应用管理指南》,旨在为后续的人工智能安全管理活动提供规范化指导。

多个研究组织包括SG5、SG16及SG2均参与到人工智能领域安全标准化工作中。其中, SG5已制定标准L.1305,明确了数据中心基础设施管理系统的技术规范,特别关注了人工智能技术在数据 center 管理过程中的安全性问题;同时, SG16正重点研究F.Supp-OCAIB项目,旨在为区块链技术和人工智能技术融合应用的安全性提供保障建议;此外, SG2正在推进M.AI-TOM项目,其目标是为基于增强型电信运营管理系统的人工智能应用制定相应的框架指南,并着重考虑其安全性及其他相关因素。

1.3 ETSI

欧洲电信标准化协会（ETSI）下设专门委员会负责人工智能安全领域的标准化工作。该协会的专门委员会主要负责以下领域：一是行业规范组-保护人工智能（Industry Specification Group-Securing Artificial Intelligence, ISG-SAI），二是行业规范组-体验性网络智能（Industry Specification Group-Experiential Netwoked Intelligence, ISG-ENI），三是技术委员会-网络安全（Technical Committee-Cybersecurity, TC Cyber）。其中涉及的具体标准项目可参考附录3中的详细说明。

表3 ETSI人工智能安全标准项目概况

ISG-SAI自2019年成立以来致力于 ET S I 人工智能安全领域的标准化研究工作。该组织主要聚焦于人工智能安全问题的系统性评估框架构建工作，并围绕威胁评估机制设计、数据供应链的安全性保障策略制定以及相应的缓解措施探索等6个核心议题展开了深入研究工作。截至目前 ISG- S AI 已成功发布两份人工智能安全研究报告，在其中 ET S I GR S AI 004号文件聚焦于以人工智能为基础的系统级安全性挑战并提出了若干实际的安全应用案例及潜在攻击手段；而 ET S I GR S AI 005号文件则针对前述工作中提出的系统级安全性挑战提供了一系列具体的应对方案和技术指南建议。展望未来 ISG- S AI 的主要关注点将扩展至人工智能数据的整体安全性保障体系构建方面 包括数据完整性保护机制设计 个人隐私权维护策略制定 透明度提升方法探索 可解释性优化路径规划 系统伦理规范确立以及偏差效应消除等方面内容。与此同时 ISG- ENI 和 TC Cyber 等标准化工作组也将从各自的专业领域出发对人工智能安全性开展深入研究工作 ISG- ENI 将重点关注利用人工智能技术实现网络部署自动化过程中的安全性保障问题 TC Cyber 则将聚焦于人工智能技术在网络安全基础理论层面的关键技术挑战问题研究

1.4 IEEE

电气与电子工程师协会（IEEE）是早期从事人工智能伦理研究的国际标准组织，在AI安全领域专注于制定涵盖伦理影响分析与设计、隐私服务、数据治理、可信性评估以及透明性等方面的标准化框架[3]。为了探讨和解决AI伦理与社会发展中的关键问题，在2015年12月 IEEE 发起了"自主和智能系统伦理全球倡议"（IGEAIS），随后分别于2016年、2017年和2019年发布了并修订了三个版本的《人工智能道德准则设计》[3]。IEEE标准协会（IEEE SA）作为 IEEE 的下属机构，在推动 AI 安全领域的标准化工作中发挥重要作用，并具体负责相关标准项目的制定及推广（如表4所示）。

表4 IEEE人工智能安全标准项目概况

IEEE专委会设立了人工智能系统（AIS）专业社区，并组织发布了包括全球人工智能系统人类福祉计划、人工智能系统应用风险与影响框架在内的多个倡议方案。在这些倡议的引导和支持下，在安全领域具有较大影响力的标准化工作组主要负责制定包括IEEE P7000TM系列和P2247TM系列在内的标准文件。其中P7000TM系列被视为人工智能领域伦理规范的重要参考标准，在该领域长期受到研究人员的关注；而P2247TM系列则聚焦于深度学习与机器学习技术开发的技术评估指南，在医疗行业应用中提供了相应的安全指导，在工业及金融等领域则为各类应用场景的人工智能应用与产品提供相应的安全指导原则。 IEEE计算机学会下属的人工智能标准化委员会（C/SAB）以及软件与系统工程委员会（C/S2ESC）则致力于推动各设计阶段的伦理规范制定工作，并重点涵盖了人机交互系统的透明度问题以及算法潜在偏差的影响评估研究；此外还需对数据隐私保护机制进行深入探讨，并在此基础上完善知识图谱构建的相关技术标准体系。未来工作重点将包括自动驾驶技术的安全规范以及智能城市和工业领域的人工智能安全标准建设

我国在IEEE人工智能安全标准化领域实现显著成效：首先，在2020年6月, 中国微众银行作为核心单位, 成功制定了一款可解释人工智能体系架构标准P2894, 系统规范了该领域对人工智能可解释性的定义、分类、应用场景以及性能评估等核心要素. 其次, 于2019年8月, 我国正式发起成立IEEE知识图谱标准工作组, 该组织由相关领域的专家担任负责人, 负责制定P2807系列标准, 推动其在我国的推广与应用.

1.5 NIST

美国国家标准与技术研究院（NIST）将人工智能列为关键标准领域，并于2019年2月发布《推动美国在人工智能方面保持领先地位的行政命令》（EO13859）。该命令旨在要求联邦机构加强协调合作，在促进AI系统可信度的同时提升相关知识及领导力水平。作为这一领域的核心机构之一,NIST设立了信息科技实验室(Information Technology Laboratory, ITL)，其主要职责是研究并发展符合社会及伦理考量的人工智能系统,涵盖AI系统的安全性、技术治理以及隐私保护等多个方面。表5列出了NIST涉及的人工智能安全相关标准项目。此外，在2020年,NIST发布了隐私框架路线图,并提出了应进一步关注AI隐私安全的问题

表5 NIST人工智能安全标准项目概况

2 人工智能安全国际标准化进展总结及发展建议

人工智能被视为一个快速变迁的技术新领域，在制定其安全性标准时首先要明确关键术语并建立完善的安全架构体系；随后需对相关应用场景进行深入梳理并确立一系列基本原则；通过这些措施不仅能够为未来的人工智能安全管理指明发展方向还能推动该领域持续健康发展发挥引领作用；当前国际上的人工智能安全性标准化工作仍处于初期阶段；主要集中在基础性议题如核心概念框架构建以及评估方法体系等方面；同时也在逐步拓展包括认知科学与伦理考量在内的潜在重点研究领域；这一进程体现出基础性特征（涉及众多基础议题）、探索性特征（包含大量技术报告）以及前瞻性的布局特点（为后续发展奠定基础）。

我国特别重视人工智能安全标准化工作，并制定了《下一代人工智能发展规划》以及《国家新一代人工智能标准体系建设指南》等重要文件。这些文件明确了安全标准在人工智能标准体系中的核心地位，并提出应充分发挥标准的引领作用，保障我国人工智能技术的安全应用。鉴于我国在人工智能技术应用方面已形成一定的国际领先优势，在积极参与国际标准化工作的同时：
一方面要抢占人工智能安全标准化领域的先机优势地位；
另一方面要注重实现国内外标准的一致性协调，
确保我国人工智能安全技术产业能够符合国际标准的相关要求，
从而提升我国在这一领域的国际话语权。

综合考虑当前国际人工智能安全标准化发展现状及我国技术产业发展特点，在进一步深化人工智能安全领域的国际标准化工作中提出以下两点意见：其一，在充分发挥我国人工智能技术应用优势及海量数据资源的基础上，并结合该领域广泛的应用场景和多样的应用场景特点，在尊重企业、高校及研究机构关注侧重点的不同要求基础上精准匹配现有国际标准化组织的重点研发方向，并有计划地承担或参与ISO/IEC（总体性标准）、ITU-T（涵盖信息技术行业的高关联度标准）、ETSI（区域应用指导性标准）以及IEEE（注重伦理与安全的行业标准）等国际组织的标准化事务工作；鼓励国内专家积极担任国际标准组织职务并主导相关国际标准项目编辑工作；致力于打造一支既具备专业技能又精通外语的复合型国际化标准专家团队；其二，在制定相关国际标准时应秉持积极协商、灵活应对以及促进达成共识的工作原则；在标准化项目推进过程中要充分吸收国外在该领域取得的经验教训；通过搭建重点难点标准的合作交流平台；借鉴各国在国际标准化组织中的实践经验；参考现有研究成果并据此制定我国人工智能安全领域的标准化推进策略；通过引入外部资源丰富我国相关国家标准体系的同时也要注意与国家/行业标准的有效衔接；以此不断提升我国人工智慧安全保障能力并更好地服务于新兴产业的发展需求

3 结束语

我国人工智能产业规模和核心企业数量居于世界前列，在全球排名中位列第二位[4]。该产业涵盖技术平台、产品应用等全方位领域，在医疗影像、智能语音、智能翻译以及自动驾驶等领域已达到国际领先水平[4]；而在智能安防、消费无人机等细分领域则具有显著竞争优势[5]。未来有望将发展成为全球最大的人工智能市场[4]。
基于对数据高度依赖的特点，“数据优势”能够进一步强化人工智能技术应用的发展路径[5]。
高质量的技术标准体系是推动人工智能创新发展的基础条件，在标准化组织建设以及标准制定修订等方面已取得一定进展[5]。
但在新技术领域的国际标准化进程上仍存在不足：尚未推动有利于我国技术产业发展的规则走向国际，并成功融入全球人工智能治理框架[6]。
深入分析当前国际标准化工作态势，
有助于我国专家更有针对性地组织相关研究项目，
推动标准化工作走向深入，
充分发挥我国大市场优势及产业链完善程度，
提升数字空间在新技术应用领域的国际影响力。