邮发代号 2-786
征订热线：010-82341063
从ChatGPT的万能问答到Sora的文生视频，通用人工智能正在由科幻转化为现实，如此迅猛的发展带来新技术突破和产业变革的同时，其引发的安全风险也对监管和治理提出新要求。世界范围内，各主要经济体酝酿多年的人工智能立法实践将在2024年陆续进入成熟期。当地时间5月21日，欧盟理事会正式批准《人工智能法案》。外界普遍认为，作为全球首部全面的人工智能法规，欧盟《人工智能法案》实施后将对全球人工智能产业链产生深远影响。总体上，《人工智能法案》在适用范围、人工智能系统风险分级管理、通用人工智能模型管理、执法与处罚等方面，为整个人工智能产业链上的相关方提供了一个合规义务框架。
具体而言，法案从多个维度界定了适用范围。适用对象包括与欧盟市场有连接点的人工智能系统提供商、使用商、进口商、分销商和产品制造商。广泛的域外适用效力确保了所有在欧盟经营的市场参与者必须遵守相同的条件。适用事项上也仅限于“人工智能系统”。法案按照人工智能系统对用户和社会的潜在影响程度将其分为4类：不可接受风险类、高风险类、有限风险类、最小风险类。风险等级越高，管控越严格。构成不可接受风险的人工智能系统，如为唆使犯罪而利用人工智能技术操纵人的潜意识、将人脸识别等生物识别技术实时应用于犯罪搜查等，是被禁止的；高风险人工智能系统，须对其风险进行评估，并确保其受到人为监督。多数人工智能系统属于风险较低的类别，但仍可能需要根据法案要求履行相应义务。法案为人工智能系统中的通用人工智能模型引入了透明度义务，包括遵守欧盟版权法和发布用于培训内容的详细摘要。对于具有系统性风险的通用人工智能模型，法案设置了更多约束，如对其进行模型评估和减轻系统性风险等。此外，经过人工或其他方式处理的图像、音频或视频内容（“深度伪造”）需要明确标记其被处理过。违反法案的处罚结果将取决于人工智能系统的类型、公司的规模和违法行为的严重程度。法案规定，如涉足“禁止”领域，相关方会被处以3500万欧元或全球年销售总额7%的罚款，以较高金额为准。如未履行除“禁止”以外的其他风险分类中的义务，则根据相关方业务规模等处以1500万欧元或最高不超过全球年销售总额3%的罚款。《人工智能法案》立法进程总体进展迅速。2019年以来，欧盟就在一直布局人工智能监管领域，陆续发布《欧盟机器人民事法律规则》《欧盟人工智能》《人工智能白皮书——追求卓越和信任的欧洲方案》等一系列人工智能政策。
2021年4月21日，欧盟委员会提出《人工智能法案》提案的谈判授权草案。2022年12月6日，欧洲理事会一致通过《人工智能法案》草案；2023年6月14日，欧洲议会全体会议表决确认其认同立场。此后，欧洲议会、欧洲理事会和欧盟委员会立即就法案举行了第一次“三方会谈”。经过多次会谈，三方于2023年12月8日就草案达成一致。这份草案于2024年3月13日得到欧洲议会批准。2024年5月21日，欧盟理事会也正式批准了该法案。法案在经欧洲议会议长和欧洲理事会主席签署后，将于近日在欧盟官方公报上公布，公布20天后生效，并在生效两年后全面实施，风险级别最高的“禁止”条款预计率先于2024年底启动适用。然而，有反对者认为，这份法案太过严苛。欧盟的超前和过度监管可能会进一步造成欧洲人工智能产业落后的局面，诸多事前监管环节都将影响人工智能的开发进程。2020年一项针对使用人工智能技术的欧洲企业的调查显示，对有计划但尚未采用人工智能技术的欧洲公司来说，43%的欧洲企业将法律责任问题视为其使用人工智能技术的最大外部障碍之一。此外，人工智能监管沙盒等要求使创新型初创公司面临巨大挑战，导致经济负担过重。欧洲的公民权利团体表示这份法案仍有较大漏洞。法案对规制对象的责任界定不够清晰，未明确多方参与场景下多个责任主体间的责任分配，责任承担方式也较为单一。据美联社报道，公民权利团体还对人工智能生物信息识别在执法权上的豁免表示担忧，同时认为法案对在边境和移民管理中的人工智能应用规定也有欠缺。除了对法律文本本身的质疑之外，这份法案最终的执行情况也受到质疑。报道称，《人工智能法案》旨在促进欧盟单一市场内安全可信的人工智能系统的开发和采用，保障欧盟公民基本权利。随着人工智能技术的迅猛发展，各主要经济体也都在筹谋人工智能的监管之策。
近期美国国会密集引入了《透明自动化治理法案》《全球技术领导法案》《人工智能披露法案》《国家人工智能委员会法案》。为了夯实拜登政府的政治成果并为民主党候选人赢得美国总统大选增加砝码，民主党将通过拜登政府颁布行政命令、国会立法并进的方式加速人工智能立法。英国议会于2023年11月发布《人工智能监管法（草案）》，英国科学、创新和技术部于2024年2月向英国议会提交《人工智能监管的创新方法：政府的回应》，明确其目标是成为人工智能安全开发和部署的全球领导者。2023年生效的《生成式人工智能服务管理暂行办法》，是中国首份专门针对生成式人工智能的监管文件。当地时间5月14日，中美人工智能政府间对话首次会议在瑞士日内瓦举行。双方围绕人工智能科技风险等问题深入、专业、建设性地交换了意见。专家表示，在人工智能安全议题上进行沟通交流和合作是确保双方人工智能发展安全可靠的必要保障，更是中美双方作为人工智能发展与治理的国际重要力量需要为全球作出的共同努力。国际社会指出，欧盟《人工智能法案》为全球应对人工智能风险提供了一些思路，但并不代表是全球通用规则。鉴于人工智能的特性，监管者在考虑如何制定相关法律和政策时，不仅要从技术的角度出发，还要从社会、伦理和文化的角度进行思考。未来欧盟和各国政府还需要继续加强对于人工智能技术的监管和研究，以确保其安全、合规地服务于人类社会。（来源：法治日报）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664215085&idx=6&sn=acde45f94ef1764ef5f766551e858538&chksm=8b59b0d4bc2e39c2dea2c92a5d2a4058033a7ddeaf6953513b1008428e10707d1319cb622514&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh