邮发代号 2-786
征订热线：010-82341063
2024年9月9日，全国网络安全标准化委员会在2024年国家网络安全宣传周主论坛上发布《人工智能安全治理框架》1.0版（以下简称《框架》）。《框架》以鼓励人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点和落脚点，广泛联合治理行为体，有利于推动各方积极参与形成共识，对完善我国人工智能安全治理，深化人工智能国际治理合作，建立全球人工智能治理体系将起到积极作用。《框架》是在人工智能发展关键期提出的重要政策文件，既对内完善了我国人工智能治理体系，同时也对外回应了全球人工智能技术与治理发展趋势。（一）进一步落实《全球人工智能治理倡议》。《框架》开篇即强调出台目的是为贯彻落实《全球人工智能治理倡议》（以下简称《倡议》），明确遵循《倡议》提出的“以人为本、智能向善”的发展目标，更是将《倡议》强调的敏捷治理、分类分级管理、快速有效响应作为《框架》的主体内容，进一步完善了我国基于人类命运共同体理念，引领全球人工智能健康发展的人工智能安全治理体系。（二）顺应全球人工智能治理趋势。当前人工智能安全治理已经成为国际治理的核心议题，世界各国已发布上百项人工智能安全治理政策，提出了具有多样性的治理方案。在各具特色的治理方案中已形成一些共性趋势，包括关注“科林格里奇困境”下的安全与发展平衡问题，探讨技术发展与规则治理的同步性问题，如何增进多方主体的协同问题等。《框架》吸收了当前国际上具有共识的治理方案，提出敏捷治理、分级分类、安全设计等治理措施，同时关注伦理安全风险等全球人工智能治理的优先项，关注人工智能带来的加剧社会歧视偏见、扰乱社会秩序甚至是未来脱离控制等风险。（三）推动各方积极参与形成共识。《框架》提出的“包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享”等核心治理原则，为各方提供了一个共同遵循的规范，有助于推动政府、企业、科研机构及公众等多元主体在统一理念下展开深入交流，形成广泛共识。同时，《框架》提出了系统性的风险分析与应对措施，有利于引导各方在讨论中聚焦关键问题，形成更加具体的见解。《框架》按照风险管理的理念，紧密结合人工智能技术特性，分析人工智能风险来源和表现形式，针对内容安全与应用安全两大类风险，提出相应技术应对和综合防治措施，以及人工智能安全开发应用指引，具有以下特点：（一）细化具体措施提高可操作性。《框架》将人工智能安全风险分为模型算法安全、数据安全和系统安全等13项内生安全风险和网络域、现实域、认知域、伦理域等13项应用安全风险，并提出39项技术应对措施和9项综合治理措施，并提出了人工智能安全开发应用指引，为相关主体参与治理提供了重要参考以及政策箱与工具集。（二）囊括多主体参与强化协同共治。《框架》明确了模型算法研发者、服务提供者、重点领域使用者以及社会公众等不同行为体的安全责任，以确保人工智能“安全开发”“安全服务”“安全使用”“安全普及”；同时明确技术研发机构、服务提供者、用户、政府部门、行业协会、社会组织等各方发现、防范、应对人工智能安全风险的措施手段。《框架》真正将安全责任贯穿于人工智能系统全生命周期过程，以形成政府监管、行业自律、社会监督的协同治理格局。（三）基于风险管理实施动态治理。《框架》提出当前人工智能研发应用仍在快速发展，将根据风险导向、敏捷治理的治理原则，关注安全风险发展变化，快速动态精准调整治理措施，持续优化治理机制和方式。这也预示着，《框架》的发布并非一劳永逸，而是一个持续动态调整的过程。随着人工智能技术的不断发展和应用场景的不断拓展，新的安全风险和挑战将不断涌现。《框架》将根据实际情况和各方反馈，不断优化完善治理措施和指引规范，确保其始终能够适应人工智能发展的最新需求。这种动态调整的过程，有助于保持治理框架的时效性和有效性，推动各方在持续讨论中深化共识。（四）遵循技术特性强化技管结合。当前，全球人工智能技术快速更迭，以ChatGPT为代表的生成式人工智能技术不断催生新场景、新业态、新模式和新市场。《框架》遵循人工智能技术自身的技术与安全特性，基于大量的调研，将人工智能安全风险分为内生安全风险与应用安全风险，特别是针对人工智能技术特性，梳理模型算法安全、数据安全、系统安全等风险，回归到解决人工智能技术发展内生存在的可解释性差、不可预测性、鲁棒性弱等挑战，探讨技术和政策治理的可行性。（五）夯实以人为本推进“智能向善”。《框架》始终践行“以人为本、智能向善”，提出利用人工智能增进人类共同福祉的共同举措，包括完善人工智能数据安全和个人信息保护规范，推进人工智能设计、研发、应用的价值观、伦理观对齐；特别规定对面向公众服务的人工智能系统，建立人工智能服务可追溯管理制度，包括制定出台人工智能生成合成内容标识标准范式，明确显式、隐式等标识要求，便于用户识别判断信息来源及真实性。此外，《框架》还将广大公众纳入人工智能安全治理的重要环节，提出面向公众建立人工智能安全风险隐患投诉举报受理机制，形成有效的人工智能安全社会监督氛围。《框架》既立足于我国人工智能发展现实情况，提出深化人工智能发展与安全并重的“中国模式”，体现了促进人工智能安全发展的“中国智慧”；同时又是一份面向全球人工智能发展方向，推动形成的具有广泛共识的全球人工智能治理体系的“世界方案”，是全球人工智能安全治理的又一里程碑式政策文件。（一）深化人工智能发展与安全并重的“中国模式”。当前主要人工智能技术发展大国和地区均提出了人工智能安全治理政策，无论是基于企业自律的“美国模式”，还是遵循强风险管理的“欧盟模式”等，如何回应发展与安全的关系均是治理面临的核心问题。《框架》立足于人工智能技术特性、产业特点以及战略安全属性，以促进人工智能创新发展为第一要务，鼓励对人工智能研发及应用采取包容态度，同时以有效防范化解人工智能安全风险为出发点和落脚点，对危害国家安全、社会公共利益、公众合法权益的风险及时采取措施，力图在充分放大和加速人工智能正面效应的同时，把可能出现的负面影响降到最低。可以说，《框架》提出了更符合广大发展中国家借鉴的“中国模式”，体现了更多国家的诉求，为世界其他国家提供了更优的路径选择。（二）体现人工智能安全发展的“中国智慧”。《框架》是基于人类命运共同体理念提出的人工智能治理新视角，也是我国秉持共同、综合、合作、可持续的安全观的又一集中体现，不仅进一步完善了我国人工智能安全治理政策体系，同时成为构筑包容、开放、平等的人工智能国际治理中不可或缺的一环，有助于建立更加强大和有弹性的全球人工智能生态系统。（三）构筑人工智能共治共享的“世界方案”。人工智能安全治理攸关全人类命运，是各国面临的共同课题。《框架》明确提出开放合作、共治共享的治理原则，要求在全球范围推动人工智能安全治理国际合作，共享最佳实践；支持在联合国框架下成立国际人工智能治理机构，研究成立人工智能安全治理联盟，推动形成具有广泛共识的全球人工智能治理体系等举措，充分彰显了中国对人工智能发展和治理提出的建设性思路和重要引领作用。相关理念在第78届联合国大会协商一致通过中国主提的加强人工智能能力建设国际合作决议也得到充分体现，表明广大国家普遍赞成通过对话合作加强人工智能全球治理，也展示了我国进一步构筑人工智能共治共享的“世界方案”的负责任大国形象。（来源：网安标委）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664226195&idx=1&sn=ceb98a071da533ccc8c7887c794ef18a&chksm=8b59df6abc2e567c49dad9ae5e5a8fab5f6ed2f680ec49939a0b2afe20ec2ad76f853b8e3392&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh