邮发代号 2-786
征订热线：010-82341063
文 | 中国政法大学教授，联合国人工智能高级别咨询机构中方专家 张凌寒
近年来人工智能（AI）技术迅速发展，其在推动社会经济进步的同时带来安全隐患与风险挑战。2023年10月，我国面向世界提出《全球人工智能治理倡议》，呼吁不断提高AI技术的安全性、可靠性、可靠性与公平性，倡导建立具有广泛共识的人工智能治理框架和标准规范。2024年9月9日，《人工智能安全治理框架》（下称《治理框架》）发布，其内容涵盖治理原则、框架构成、风险分类、技术应对、综合治理和安全指引六个部分，较全面地总结了中国AI安全治理的经验和观点。《治理框架》旨在协调政府、企业、科研院所、国际组织等各方达成广泛共识，为AI风险评估评测、防范化解和监督管理等提供重要指引。总体国家安全观是国家安全工作的指导思想，其不断推动着中国特色国家安全理论构建和实践。AI安全综合了网络安全、数据安全等各方面，关系到国家政治、经济活动的安全可控。《治理框架》基于总体国家安全观和当前AI安全治理认知，本土安全风险分类体系。文件将AI安全风险分为内生安全风险与应用安全风险两个层次，涵盖AI训练、部署、更新、维护等全生命周期。内生安全风险源自AI技术的构成要素和固有特性，包括偏见歧视风险、对抗攻击风险等由模型算法缺陷导致的风险类型，训练数据的违规使用、泄露或遭受“投毒”等数据安全风险。文件同时注意到AI产业集成多项信息技术，面临大规模后门攻击、算力短缺、供应链中断等系统安全风险。应用安全风险源自与AI的交互过程，表现为AI在不同社会场域内被异化的风险。文件划分为网络域、现实域、认知域、伦理域四类，囊括信息内容安全风险、网络攻击风险、强化“信息茧房”效应、用于违法犯罪活动、用于争夺认知主导权等应用风险。能否准确鉴别风险类型和性质关系到治理路径的选择，《治理框架》区别已有风险类型的新表现形式和AI技术引入的场域风险新类型。信息内容安全风险、网络攻击风险、丧失认知主导权风险等传统场域风险在AI技术背景下加剧。AI模型服务易于获取的属性降低了实施网络攻击、电信诈骗等违法犯罪活动的技术门槛，强大的内容生产能力则使“认知战”可影响规模进一步扩大。而在安全风险类型增量方面，AI伦理域风险广受关注。AI技术使“死者复生”“一键换装”成为可能，但也有冲击社会伦理共识、加剧社会歧视或智能鸿沟的风险。总体来看，《治理框架》的风险分类方案细致全面，既尊重了国际共识，又体现我国对AI风险的认知衡量。近年来，全球各国积极建立AI风险分类标准，旨在精准规制技术风险。美国国家标准与技术研究院发布AI风险管理框架（AIRMF）系列指南，为安全、可靠和可信AI开发和使用提供技术方案。AIRMF系列指南关注AI开发过程中的数据隐私保护、环境资源消耗等，同时提出治理AI被用于制作煽动仇恨、暴力、儿童色情等内容的风险。新加坡于2024年5月发布《生成式人工智能治理模型框架》，从数据、可信开发与部署、事件报告等方面入手，主张建立问责制以确保AI技术造福公众。《治理框架》采取有别于上述文件的全面视角，提出技术应对和综合治理的双重路径，分别从微观和宏观两个层次指导风险治理。尊重技术发展规律，采纳制定安全开发规范、核查训练数据、共享安全风险信息等体现创新与监管相平衡理念的治理手段是《治理框架》的一大亮点。上述技术应对措施具有较高的可操作性，可以为开发企业等提供合规指引，为产业提供安全创新空间。综合治理措施则着眼AI技术的长远发展，包括实施AI应用的分类分级、建立AI服务可追溯管理制度、强化AI供应链安全保障、参与AI国际治理等宏观治理方案。综合治理措施强调多方共同治理，主张政府、企业、科研院所、民间机构、社会公众等各方的广泛参与。技术应对措施和综合治理措施双重治理路径兼顾短期、长期治理需要，体现技管结合、协同应对的治理原则。在技术应对和综合治理之外，《治理框架》设置了研发者、服务提供者、重点领域使用者和社会公众的安全应用指引。针对研发者，文件第六章提出十项规则，涵盖科技伦理审查、模型评估评测、听取公众反馈、数据综合管理等诸多方面，可谓“AI安全开发十条”。服务提供者则应注重AI产品与服务在面临故障、攻击时的安全性和功能性，确保风险处于可控范围内。对于重点领域使用者，文件要求进行AI系统审计和决策记录等，且确保AI系统和传统决策系统之间可以相互切换，避免业务中断。文件倡导公众树立个人保护意识，提高对AI系统风险的认识，避免滥用AI。安全应用指引体现“安全嵌入设计”理念，与负责任AI具有相似的内涵，旨在向开发、服务提供和使用中嵌入安全治理，形成全流程、多主体的治理模式。《治理框架》是一项系统工程的阶段成果，其以治理实践形成的认知为基础，由一系列原则和规则构成，并融合了不同路径下的治理手段。该系统工程应当不断更新和完善，以适应新的挑战和需求。AI技术对生产方式、就业市场、文化产业等的影响不容小觑，安全治理是实现AI技术安全可控的必然选择。AI安全治理框架嵌入在我国“以人为本、智能向善”为核心的AI治理体系中，包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对和开放合作、共治共享四大治理原则对更大范围的AI全生命周期治理同样具有参考意义。我国AI治理体系的构建离不开国际治理合作，《治理框架》本身也是全球AI治理体系的一部分。我国积极参与全球AI治理，愿同各国一起探索如何在确保技术创新、发挥AI技术潜力的同时降低其安全风险和负面影响。该文件是我国积极参与全球治理、展现中国AI治理理念的重要途径。中国未来将遵循此治理框架，就红队测试、安全评估、风险信息共享等开展交流合作，促进全球共识形成，构建人类共同价值观和命运共同体。（来源：全国网安标委）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664225914&idx=2&sn=3c891dbcc1175b6e81f9620efb21ae67&chksm=8b59de83bc2e5795653bdbf0ff69fee7abd93aab35ec4bed79f72c77f1ebb60ff30a21a6b3ba&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh