邮发代号 2-786
征订热线：010-82341063
ChatGPT的问世开启了生成式人工智能大众化的序幕，大模型旋即成为继互联网之后又一个产业发展焦点，并受到各方普遍关注。当前，在数字政府建设中，多地以大模型应用推动政府数字化、智能化水平提升，应用场景十分广泛，涵盖了政务办公、政务服务、智慧城市、一网统管、应急管理、市场监管、舆情监测、交通治理、卫生健康等多个领域。客观地看，大模型尚处在发展早期，面对技术浪潮保持理性思考，对于兼顾发展和安全、提高数字政府建设水平的意义重大。学理意义上，大模型是指具有大规模参数和复杂计算结构的机器学习模型。应用视角下，大模型可以分为通用大模型和垂直大模型。顾名思义，通用大模型可以应用于各种场景，具有较大的“广度”。垂直大模型专注于特定领域，在垂直领域被二次开发和训练，属于“定制化”大模型，具有较好的“深度”和“精度”。政务大模型属于垂直大模型的范畴，是在通用大模型基础上结合政务行业专属数据和政务行业应用场景特征、为政务领域定制的专属行业大模型。
实践中，各地区纷纷上线政务领域大模型服务平台，数字政府领域已经成为垂直大模型的主阵地之一。从目前已经发布的政务大模型来看，大多是基于一个或多个通用大模型，针对特定地区或特定领域，综合考虑数据资源与算力资源而构建形成的。大模型之“大”主要表现为算法参数之多、数据之大以及算力之强。大模型迭代中的“数据飞轮”效应深入人心，那就是场景催生应用，应用生成数据，数据训练算法，算法反哺应用。这或许是“场景”成为如今数字政府建设“热词”的重要原因之一。然而，大模型的发展存在不确定性，突出表现在技术路线、产业形态和商业模式等方面。大模型的竞争导致技术规模定律的出现，即多数大模型的参数规模超过某个阈值后模型能力裂变式提升，进而带来不可预期的应用效果，这对监管提出挑战。当然，如果把大模型放在长周期思考，它正成为一种通用目的技术。一方面，大模型具有目的通用性。从这个技术特征上看，大模型势必会被应用于数字政府，正如互联网技术一样。另一方面，通用目的技术的另一重要技术特征是创新互补性。实践已经证明，改革驱动和数字赋能是数字政府高水平发展的“两翼”。那么，一旦大模型应用于数字政府，其应用效果是“赋能”还是“负能”，取决于组织架构、制度体系和治理模式等的与之适配，这会带来怎样的改革诉求充满复杂性。因此，我们需要以开放审慎态度推进大模型在数字政府中的应用。目前，政务大模型服务平台虽然已经蓬勃兴起，但是基础大模型的开放性不足且合规化审查缺乏统一标准，数据规模和数据质量参差不齐，数据安全存在隐患，算力资源分散等方面仍存在问题。以开放审慎态度推进大模型在数字政府中的应用需要妥善处理好三种关系。
一是发展和安全的关系。从通用目的技术的特征上看，数字政府建设将要应用大模型。然而，大模型存在内生、外生以及衍生安全风险。内生安全风险源自大模型自身的数据、算法和算力，外生安全风险源自攻击，衍生安全风险源自大模型应用产生的不良影响。推进大模型在数字政府中的应用必然要统筹发展和安全，坚持发展和安全并重。以开放的态度促进大模型应用发展，以审慎的态度保障大模型应用安全。实践中，既不能一味强调安全忽视大模型应用发展，更不能只强调大模型应用发展而忽略安全。处理好发展和安全的关系需要坚持系统思维，将大模型应用纳入数字政府建设统一规划，并将大模型应用安全纳入数字政府安全保障体系一体谋划。二是人机关系。伴随工业革命迄今的每一轮技术迭代，人和机器的关系总是被不断重新定义。从机器辅助人，到人机协作，再到人机协同。不可否认的是，前几轮技术浪潮冲击的主要是高重复性或低专业技能的职业，但大模型具备了认知能力、分析能力、推理能力和创造能力，一些在传统意义上被认为是高度专业化的职业，将可能受到冲击。比如，推进大模型在数字政府中的应用，公务员队伍是被技术赋能，还是被技术替代，行政相对人是感受到了数字公平，还是进一步加剧了数字鸿沟，都需要从根本上处理好人机关系的问题。一方面，我们要以开放的态度迎接大模型应用，提高全民的人工智能素养；另一方面，我们要以审慎的态度规制大模型应用，警惕技术失败和技术失控。三是技术创新导向和应用场景导向的关系。推进大模型在数字政府中应用的路径始终存在相互博弈，究竟是选择技术创新导向，还是选择应用场景导向。前者重点关注通用大模型关键核心技术研发，以技术创新叠加有影响力的产品，实现大模型关键核心技术的自主可控。后者重点关注技术落地应用，即以场景创新为核心，以新技术的创造性应用为导向。作为建设网络强国、数字中国的基础性和先导性工程，大模型在数字政府中的应用显然既要关注通用大模型的技术研发，又要关注政务场景下的垂直大模型应用。一方面，我们要以开放的态度推动大模型前沿领域的技术研发及产业化发展布局，努力在原始创新上取得新突破，实现科技自立自强；另一方面，我们要以审慎的态度选择垂直大模型在数字政府建设中的应用场景，平衡好发展和安全，处理好人机关系，选择那些百姓期待、安全可控的场景率先应用，形成经验做法后再推广。（来源：学习时报）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664227012&idx=5&sn=42800af2524149c11109e8f26dfe75dc&chksm=8b59e23dbc2e6b2b21c17e8baeb1658c71778a588b042efa2b533b972eebd21c00edc7f44f6a&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh