邮发代号 2-786
征订热线：010-82341063
党的二十届三中全会提出，完善生成式人工智能发展和管理机制。生成式人工智能的通用性、交互性、深度合成性等技术特征和传播模式对传统网络空间治理体系提出了挑战，应构建符合生成式人工智能产业链分布规律、产业形态并能嵌入现有网络空间治理体系的人工智能治理体系。生成式人工智能改变了信息生产方式和主体关系，使以规制网络应用服务提供者的传统网络空间治理模式难以发挥预期作用。在技术方法层面，生成式人工智能的信息生成本质是模型和数据替代人类直接生成概率答案的过程，其已成为新型网络信息生产者。生成式人工智能还能提供情绪识别、分析及反馈等深层服务，这改变了信息服务模式，同时也容易引发新型信息内容风险。在应用角度层面，生成式人工智能采用“用户提问—系统回答”的模式，信息生产内容实际上也由用户参与生成，用户从单纯的信息接受者变为信息生产的参与者。这改变了传统信息模式下作者与用户的生产和应用关系，对既有内容与生产者主体责任认定规则体系产生挑战。在产业链层面，生成式人工智能的产业主体由基础模型层、专业模型层和应用服务层组成，突破了传统的网络空间技术支持者、服务提供者和内容生产者的逻辑关系，使得通过规制信息聚合和分发角色的平台治理逻辑难以规制生成式人工智能生态。为此，构建生成式人工智能治理体系需要兼顾科学规律和立法规律，需要平衡生成式人工智能的创新性与法律体系的稳定性，需要在传统网络空间治理体系的总体框架下创设适应技术变革的治理规则，需要明确基础模型层和应用服务层在生成式人工智能产业链的定位，分层分类予以规制。一是基础模型层需要承担作为网络设施运营者和网络信息生产者的法律责任。基础模型层是生成式人工智能的基础设施，客观上控制着生成式人工智能生态的信息供给，是生成式人工智能治理的关键抓手，需要承担作为网络设施运营者和网络信息生产者的法律责任。二是基础模型层还要承担作为网络设施运营者的安全保护义务。作为人工智能的技术底座和基础设施的基础模型，基础模型层面临系统、数据和生态安全等新型风险。基础模型层提供者的首要义务是保障基础模型稳定运行，确保训练数据不被滥用，以及发挥对应用服务层影响作用、维护上下游共治逻辑下的生态安全。三是基础模型层需要承担作为网络信息生成者的信息安全审核义务。基础模型层具备比个体人类更强大的信息生产能力，生成的巨量内容能影响网络用户的知识来源、价值观。基础模型层需要协助监管机构从数据、训练、产品等全链路设计对生成内容进行安全性检测，确保生成的信息合规。四是应用服务层需要承担作为网络服务提供者的信息披露义务。应用服务层是直接向终端用户提供信息的渠道，是基础模型层与终端用户的枢纽。应用服务层应当履行个人信息收集、信息性质等告知提醒义务，缩小用户与人工智能间的信息落差或信息沟壑，强化用户信息掌控力和自决力。总之，应当遵循科学立法的指导方针，按照客观规律，分类分层规制产业链中各参与主体，形成定位明确、衔接紧密的生成式人工智能产业治理体系。（来源：科技日报）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664222380&idx=3&sn=f4c755f7a45e93e22834ce0120033ef9&chksm=8b59cc55bc2e45438d7ad3dbf157eb22a67f6dc26ee2b69651d2b4e18f87de7bbbfd40abd03f&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh