2023年8月15日，国家网信办等部委联合发布的《生成式人工智能服务管理暂行办法》（以下简称《办法》）正式生效施行。这标志着生成式人工智能作为一个整体，正式被纳入法治化发展与治理的轨道。多部委联合发布的形式，也凸显了生成式人工智能的跨域复杂性和治理体系化思路。

针对当前生成式人工智能领域的风险和问题，《办法》明确了“坚持发展和安全并重”的总原则，并提出了以“包容审慎和分类分级”为统领的管理要求框架。

一 生成式人工智能的潜在风险

生成式人工智能的实现需要三个要素，即数据、算法和算力。我们可从这三个要素来大致分析当前生成式人工智能面临的风险和问题。

首先，从数据方面看，生成式人工智能面临的潜在风险主要有三个。一是数据质量，尤其是训练语料等关键数据的代表性、样本量等，直接影响生成式人工智能模型的质量。二是数据保护机制，主要是在生成式人工智能模型训练及使用过程中对相关数据、用户信息、用户录入内容等的防滥用和防泄露。三是数据的真实性，重点是作为生成式人工智能模型输出结果的信息内容是否存在伪造、虚假的情形等。

其次，从算法方面看，生成式人工智能面临的潜在风险主要是认知安全问题。受算法设计、语料数据等多种因素的影响，生成式人工智能模型可能在价值导向、意识形态等方面存在歧视和误导的情形，对用户认知产生影响。

再次，从算力方面看，生成式人工智能面临的潜在风险主要有两个。一是成本问题，当前动辄百万美元级的模型训练费用、以及价格不菲的关键软硬件投入，都是生成式人工智能开发者无法回避的。二是生态问题，尤其对于信息技术供应链下游的国家和地区而言，生成式人工智能开发还可能会面临诸如某些核心软硬件供应或授权中断等不确定性影响。

总体来看，上述三方面风险和问题，可以进一步归纳为安全和发展两大类。数据和算法方面的问题，多是从防护的视角来研判生成式人工智能潜在风险，可归为安全类；而算力方面的问题，则更多事关生成式人工智能的基础和能力培育，可归为发展类。

二 构建生成式人工智能的安全围栏

《办法》要求以“审慎”和“分类分级”构建生成式人工智能的安全围栏，体现了对生成式人工智能的风险防控和安全保护。《办法》以此为纲领，提出了生成式人工智能的具体安全保障要求。

（一）“审慎”安全管理要求

“审慎”侧重于安全操作方面，贯穿于生成式人工智能服务的全生命周期，主要包括三个方面要求。一是对技术研发阶段，重点对模型训练、数据标注两个关键环节提出了数据来源合法、建立标注规则等8项安全要求。二是对服务提供阶段，重点提出了服务者主体责任、扶助用户、信息保护、产品标识、持续服务、监督和反馈等7项安全要求。三是对外部监督方面，提出了主管部门依职责开展监督检查和用户投诉举报2种监督机制。

（二）“分类分级”安全管理要求

“分类分级”侧重于提升安全管理的规范化和科学化水平，主要包括三个方面要求。一是监管职能的分类分级，即不同部门按照各自职责，完善所在行业、领域的生成式人工智能监管规则，建立科学监管方式；二是监管内容的分类，明确了对“具有舆论属性或者社会动员能力”的生成式人工智能服务，需要进行安全评估和备案管理；三是监管对象的分类，明确了对于来自境外的生成式人工智能服务违法时，启动相应技术处置措施的要求。

三 强化生成式人工智能发展要素

在明确安全要求的同时，《办法》对于培育和促进生成式人工智能的发展作出指引。突出体现在其从要素的角度，为生成式人工智能发展提出了保障要求，包括以下三个方面。

一是生态发展。《办法》提出以鼓励应用创新、拓展应用场景等方式，推动构建生成式人工智能的生态体系；并强调支持生态体系中的“组织、企业、教育和科研机构、公共文化机构、有关专业机构”主体，围绕技术研发、数据资源、应用转化、风险防范等关键环节开展协同。

二是创新合作。《办法》指明了创新的重点包括：生成式人工智能的算法、框架、芯片及配套软件平台等基础技术；明确了创新的路径，即：在自主创新的基础上，开展平等互利的国际交流与合作、参与相关国际规则制定。

三是基础资源。《办法》尤其注重算力和数据两个资源建设，明确建设“人工智能基础设施”，提高促进算力资源协同共享和利用效能；建设“公共训练数据资源平台”，扩展高质量的公共训练数据资源。此外，还强调对于“安全可信”相关芯片、软件、工具、算力和数据资源的鼓励。

四 《办法》完善及产业发展思考

从国内外相关制度实践来看，《办法》是目前国际上为数不多的已正式生效实施的生成式人工智能专项管理制度之一，其为生成式人工智能制度乃至立法实践提供了重要蓝本和落地方案。

从制度的健全完善角度来看，以下几个问题或许值得进一步完善和细化。一是法规的体系化方面，当前除了《办法》这一专项监管制度外，涉及生成式人工智能技术管理相关的规定还有《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》等，不同规定之间的竞合问题需要进一步梳理完善，且作为总体性规范的《互联网信息服务管理办法》也亟需加快推进修订。二是在监督检查机制方面，《办法》提出了不同部门按照职责开展检查的机制，对于不同部门之间的监督检查如何协调统筹，也有待进一步细化。

从网络安全产业发展来看，《办法》的施行也将产生积极影响。一是安全需求的明确，将为网络安全相关产业带来增量市场机会。如对于训练数据的合规和安全评估、服务提供过程中的数据和个人信息保护、监督检查过程中的安全技术支持、安全可信相关配套等等。二是对于发展要素的培育强化，将为网络安全产业的技术创新赋能。如“公共训练数据资源平台”、“人工智能基础设施”等算力和数据要素，将极大缓解企业在生成式人工智能开发过程中的能力短板；生成式人工智能生态体系的构建，也将为企业的生成式人工智能开发注入新的活力。