随着国内生成式人工智能快速发展，相关监管政策也逐步落实。2023年7月13日，国家网信办联合国家发改委、教育部、科技部、工信部、公安部、国家广电总局等七部委，发布了中国首部关于生成式人工智能服务的专门监管文件《生成式人工智能服务管理暂行办法》（以下简称“办法”），该办法于8月15日正式施行，这也是我国首个针对生成式人工智能产业的规范性政策。
点击图片查看《办法》原文
ChatGPT这一现象级的产品问世，在国内外掀起了生成式人工智能产业的热潮，但生成式人工智能产业的发展也带来一系列问题，因此《办法》的出台，明确了生成式人工智能服务提供者应当依法开展的活动、遵守的规定，以及具体的服务规范，落实了监督检查和法律责任。在落实规范细则同时，《办法》也进一步鼓励生成式人工智能技术在各行业、各领域的创新应用，支持各类组织在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作，推动生成式人工智能基础设施和公共训练数据资源平台建设。此外，《办法》在优化监管细则，支持企业级生成式人工智能技术进一步发展同时，也鼓励生成式人工智能在不同行业、领域的应用，构建应用生态体系，加速生成式人工智能应用生态发展。
面对着产业发展与风险管理，《办法》生效后的生成式人工智能服务的合规要求是风险防控的重中之重，也是各界高度关注的问题。
《办法》明确
提供和使用生成式人工智能服务应当遵守的合规要点
《办法》第四条 提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：
01
坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；
02
在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；
03
尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；
04
尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；
05
基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。
《办法》第七条 生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：
01
使用具有合法来源的数据和基础模型；
02
涉及知识产权的，不得侵害他人依法享有的知识产权；
03
涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；
04
采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；
05
《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。
《办法》对当前大模型评测体系带来的
合规影响
目前市面上的大模型评测服务多从能力维度对大模型进行评测，例如OpenCompass从学科、语言、知识、理解、推理五个维度衡量大模型的能力，SuperCLUE发布的大模型排行榜分为了总榜单、基础能力榜单、中文特性榜单三个榜。由此可见，现有评测体系更加侧重于大模型能力方面的评测，而忽略了大模型合规性的评测。
工程中心大模型检测服务
为了确保大模型安全可控，工程中心根据《办法》规定制定了全新的评测维度，形成大模型评测服务，为模型的全面性能评估提供了更多的视角，可有效提升大模型服务的透明度，提高生成内容的准确性和可靠性。
工程中心大模型评测服务从稳定性、交互性、应用性、安全性、鲁棒性五大评测维度入手。不仅涵盖当前主流评测体系的评测维度，还引入了一些新的维度来评估模型的性能和合规性。
模型交互性评测
具体包括了语言流畅度、情感分析、代码评测、专业翻译、摘要能力、百科知识、逻辑推理等多个子项。通过这些评测子项，可以全方位衡量大模型的表现和能力。
模型应用性评测
具体包括了多语种评测、情感分析、代码评测、专业翻译、摘要能力、百科知识、逻辑推理等多个子项。通过这些评测子项，可以全方位衡量大模型的表现和能力。
模型鲁棒性和安全性评测
具有内容过滤、虚假信息、伦理道德、隐私保护和偏见测试等多个评测子项，涵盖了《办法》第四条、第七条的要求。
安全性评测方面，工程中心大模型评测平台以法律层面《个人信息保护法》、《网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国密码法》等法律要求；国家标准层面《GB_T 22239-2019信息安全技术 网络安全等级保护基本要求》、《GB-T 39412-2020 信息安全技术 代码安全审计规范》、《GB_T 25000.10-2016 系统与软件工程 系统与软件质量要求和评价(SQuaRE) 第10部分系统与软件质量模型》、《GB_T 41479-2022 信息安全技术 网络数据处理安全要求》、《GM/T 0054-2018信息安全技术 信息系统密码应用基本要求》、《GB/T 20984-2022信息安全技术 信息安全风险评估方法》等标准；为支撑实现大模型软件安全、等级保护、密码评估、风险评估、代码审计、数据安全等合规性的评测。
欢迎大模型研发机构与其他各界同仁在本文下方评论区或通过私信联系交流，并提出宝贵意见！
关于工程中心
信息安全共性技术国家工程研究中心是国家发展和改革委员会于2004年8月3日（发改高技[2004]1551号）批复成立的国家级工程研究中心。中科信息安全共性技术国家工程研究中心有限公司（中科信安）成立于2006年8月，为信息安全共性技术国家工程研究中心的法人实体。中心总部位于北京市中关村核心区，在全国主要省市设立多家分支机构。
作为国内少数同时具备“等保”、“密评”双资质的合规检测机构，我中心拥有丰富的项目服务经验，目前具有包含网络安全等级保护测评服务、商用密码合规服务、数据安全服务、信息安全服务等众多服务项目在内的综合服务能力，可帮助不同行业、不同规模、不同需求的客户，开展具有针对性的数据安全、网络安全工作。
如有侵权请联系:admin#unsafe.sh