人工智能技术是当今世界最具变革性的新兴技术之一，并作为核心主导技术驱动着科学技术进步和经济社会发展，深刻影响着人类生活的方方面面。人工智能技术历经 60 余年的发展壮大，顺应互联网技术迅速规模化应用的潮流，在自然语言处理、计算机视觉、语音识别、机器学习等领域已经取得了显著成果，被广泛应用于各种生产和生活场景，如智能家居、自动驾驶汽车、医疗保健、智慧教育等，赋能智慧城市和数字中国建设。

以 ChatGPT（Chat Generative Pre-trained Transformer）为代表掀起的人工智能大模型发展浪潮引领了人工智能技术发展的范式变革，正在重塑产业链上下游，全球范围内的新一轮科技革命已经到来 ，未来人工智能技术的发展将更加智能化、自动化、高效化和可靠化。主要趋势体现在以下几个方面。

1.1　学习更加智能化

人工智能的核心技术是内生的学习能力，包括深度学习、增强学习、机器学习、多模态学习、自适应学习等方面。深度学习可以帮助人工智能系统更好地理解和处理复杂的数据，包括图像、语音和自然语言；增强学习是一种能够让计算机通过试错学习的方法，帮助计算机实现对环境的感知和控制，实现智能化决策；机器学习可以通过对大量数据进行分析和学习，实现对模式的识别和预测；多模态学习可以通过多种数据源（如图像、声音、文本等）进行学习和预测，实现对真实世界更加准确地理解、映射和预测；自适应学习可以让人工智能系统根据环境和任务的变化，自主地调整学习策略和模型结构，实现对不同环境、不同任务的自主适应。

1.2　感知更加自动化

边缘计算技术的发展为人工智能技术快速响应用户需求提供了可靠的基础支撑，将计算和存储资源放置在离用户更近的地方，使得人工智能系统的运转拥有充足的调取资源，提高计算速度和响应时间。人工智能技术与物联网技术的融合发展，可帮助物联网设备传感器自动感知收集数据，并及时进行分析处理得到需要的结果。例如在制造业、物流和交通等领域，人工智能技术可以帮助实现更高效的自动化过程。

1.3　处理更加高效化

人工智能最核心的能力和特征之一是对输入信息做出判断或预测，自然语言处理可以帮助系统更好地理解和处理人类的自然语言，实现人机交互。随着自然语言处理技术的不断发展，计算机对人类语言的理解和处理能力也在不断提高，将成为人类应用更广的智能辅助工具。

1.4　决策更加可靠化

人工智能技术在感知、处理的技术上输出使用者需要的结果，从而达到智能决策的目的。可解释性人工智能系统可以向使用者解释自己的决策和推理过程，使得人类可以更好地理解和信任人工智能系统的决策。同时，随着应用主体、领域和场景的扩展，数据隐私和数据保护也将成为人工智能技术越来越重要的问题，各种安全防护技术和措施也将同步发展。

人工智能技术是引领新一轮科技革命和产业变革的关键技术，其在推动科学技术进步、传统产业优化升级、经济高质量发展等方面发挥了重要作用，与此同时也会带来前所未有的安全风险。

2.1　人工智能技术自身的安全风险

人工智能技术主要由大数据、算法模型、基础设施、产品服务和行业应用等部分组成，攻击者会针对这些组成部分制定针对性的特定攻击，如投毒攻击、对抗样本攻击、供应链风险等。

2.1.1　投毒攻击

攻击者将恶意数据注入从而污染和篡改训练好的模型，传统机器学习方法认为输入模型的数据可信，攻击者可以通过注入大量恶意数据来搅乱数据的分布，调教大模型输出他们所期望的值，让 ChatGPT 等人工智能应用产生错误的预测结果，特别是在图像识别、生物特征识别中，此类攻击威胁很大。

2.1.2　对抗样本攻击

对抗样本是一种能够让模型产生错误判断的数据样本，对抗样本攻击不会改变模型本身。研究者发现在某些人工智能模型的输入上增加少量人为无法分辨区别的“干扰”，可使模型对输入的分类结果做出错误判断。利用对抗样本可方便攻击者在很多应用场景对人工智能模型发起攻击，而由于人工智能模型在业务系统中往往处于核心决策地位，因此与以往的网络安全攻击相比，这类攻击对实际业务运行造成的后果往往更加严重。

2.1.3　供应链安全风险

人工智能应用是系统、网络、软件、硬件的结合，在供应链方面也存在通用的网络安全风险，如算法后门嵌入、代码安全漏洞等，存在可信、可控、可靠的安全风险。此外，高端芯片是 ChatGPT 等系统所用的大型语言模型研发的“刚需”，在高端芯片领域受美国出口管制的国家，可能因高端芯片供给不足导致供应链存在被“卡脖子”的风险。

2.2　人工智能应用带来的安全风险

人工智能技术已经渗透到我们的日常生活中，以 ChatGTP 为代表的 AI 应用，若被不当使用或滥用，很有可能影响到国家安全、政治安全、社会稳定、企业利益和个人用户权益等诸多方面。

2.2.1　数据泄露问题

在许多 AI 应用中，需要使用大量的用户数据进行训练和学习，若用户在输入请求时，所输入的个人相关信息、业务数据或涉及商业秘密等内容没有得到很好的保护，就可能被黑客攻击者窃取，从而导致用户数据泄露和隐私问题。

2.2.2　网络安全问题

随着 AI 技术在网络安全方面的应用受到广泛关注，当安全专家尝试用最新的算法加强安全防御时，越来越多的攻击者同样使用人工智能和机器学习技术来提高攻击速度。例如，攻击者正在使用 ChatGPT 来改进恶意软件、批量制作个性化网络钓鱼电子邮件，并窃取算法优化攻击过程。

2.2.3　技术滥用问题

在 ChatGPT 等 AI 应用迅速发展的同时，也同样面临对 AI 技术的滥用问题。一是违法、不良信息传播。AI 应用虽然对交互内容采取了过滤策略，但由于多媒体内容识别技术不足、监控策略不完善、无法对生成内容进行“前置审核”等原因使得过滤机制被绕过，造成交互或传播内容中存在涉及政治、诈骗、身份伪造、涉黄等不良信息，从而影响公众舆论，恶意影响用户认知。二是引发内容知识产权问题。利用 ChatGPT 等 AI 应用完成文本创作、代码编写、代写论文等，可能会影响正常的社会秩序。

国家高度重视人工智能发展，早在 2016 年，“人工智能”就被列入国家“十三五”规划纲要，2017 年首次写入政府工作报告，同年国务院正式印发《新一代人工智能发展规划》，为加强技术创新，抢占人工智能关键核心技术制高点提供了重要方向。能源电力领域是国之重器，电力行业应积极响应国家号召，加速人工智能战略布局和推广应用。在国家政策支持驱动下，我国在电力系统的人工智能应用方面与国外处于并跑阶段，国内电力行业人工智能的应用涉及发、输、变、配、用全环节，如基于深度强化学习的优化调度、基于生成对抗学习的场景生成、基于深度学习的故障连锁辨识、基于卷积神经网络的巡检图像识别等。电力系统是一个复杂的动态系统，目前国内电力行业人工智能技术应用主要集中在以下几个方面。

3.1　电力设备故障诊断及运维管理

通过构建图像识别技术，对设备传感器数据进行分析和建模，实现对电力设备的故障诊断和预警，以便电网部门及时采取措施维护设备。其中，利用无人机、智能传感器等技术，能够降低巡线人员工作负担，实现对输电线路的全天候实时状态监测，自动识别输电线路及通道环境中的潜在缺陷，有效避免和减少停电损失。

3.2　电力负荷预测

通过对历史负荷数据的分析和建模，预测未来的负荷变化趋势，以便电网部门做出相应的调度决策。其中，为提高供电可靠性，越来越多的配电作业机器人得到大规模应用，既降低了作业人员工作强度，也保障了人身安全。

3.3　电力市场分析及营销服务

通过对电力市场数据的分析和建模，预测市场价格变化趋势，以便电力企业做出相应的市场决策。将人工智能深度学习与语音识别、图像识别、流程自动化等技术融合，利用海量业务信息和数据，通过不断的训练，构建供电指挥服务虚拟指挥员、虚拟客服坐席，实现精准辅助决策和全流程智能化业务处理。同时，营业厅智能问答机器人、交互实体机器人也越来越成为常态化配置。

3.4　电力安全管控

通过应用人工智能技术，开展现场作业人员、作业关键环节、作业全过程安全管控，辅助调度人员快速定位和处置故障，实现故障处置全流程在线管控，减少资源浪费，保障电力系统的安全性。

今年以来，中共中央、国务院印发了《数字中国建设整体布局规划》，国家能源局印发了《关于加快推进能源数字化智能化发展的若干意见》，人工智能技术将在能源数字化智能化发展，以及新型电力系统建设和新型能源体系构建中发挥更大的价值和作用。

能源是经济发展的命脉，是国民经济发展和人民美好生活的重要保障，在社会经济体系中占据着重要的地位。习近平总书记提出了“四个革命、一个合作”的能源安全新战略，其中，“能源技术革命”提出以绿色低碳为方向，推动技术创新、产业创新、商业模式创新，因此人工智能技术在电力行业得到了迅速而广泛的应用。但是人工智能也是一把“双刃剑”，在享受其带来的极大便利和价值的同时，仍需清醒认识到存在的风险。一方面，其不断冲击着人类工作、生活，带来了各种社会舆论关注的焦点问题；另一方面，其技术本身仍存在不可避免的各种内生和衍生的安全风险。电力企业承担着重大的保供电责任，保证电力系统的安全稳定运行是首要任务，因此在应用人工智能技术的时候，要特别注意当中的网络安全方面的风险。

4.1　数据安全风险

数字时代，数据的价值越来越被人们重视，是数字技术应用的核心资源。在人工智能技术应用中，为了达到智能化、自动化的效果，需要海量数据分析作为基础进行模型构建，并通过用户侧的不断训练和学习，使模型更加满足使用需求。电力系统涵盖发、输、变、配、用各环节，涉及的电力设备数据、电量数据、电力负荷数据、用电客户信息等都是关键敏感数据，在人工智能系统建设过程中，从数据收集、存储、传输、处理、分析，到模型构建、结果输出和规模化应用，这一系列的环节都存在技术上和人为操作上的数据泄露、数据窃取风险，不仅对电力系统的安全运行造成不利影响，还会涉及用户的家庭地址、身份等隐私信息泄露，严重影响社会秩序。

4.2　网络攻击风险

当前国家级网络对抗不断升级，电力、水利、交通、能源等国家关键信息基础设施已成为黑客重点攻击的对象，同时人工智能等数字新技术的深入应用，使得电力系统与互联网连接更紧密更广泛，无形之中所暴露的网络安全风险逐步增加，面临的网络威胁日益严峻。攻击方通过篡改、扰乱等手段影响人工智能系统的学习、控制和反应过程，从而获得系统的支配权，破坏模型的正常运行，这可能会导致电力设备损坏、电力负荷过载等问题，严重时甚至导致电力系统瘫痪和停电事故。国外已发生过通过网络攻击造成停电事件的情况，这也为国内电力企业敲响了警钟。

4.3　技术本身风险

“人工智能的本质是处理、匹配、决策和生成等任务”，系统的学习、反应和决策主要基于模型、数据和算法，不可避免地存在因数据质量问题、算法偏差、模型不健全等内生技术风险而出现误判的情况，导致电力设备、系统的错误操作，从而影响电力系统的正常运行。此外，电力行业的人工智能系统依然存在供应商研发而非自主可控的情形，所以系统后门、超级权限等安全隐患依然存在，如果供应商系统或者整个供应链存在安全漏洞或违规行为，同样会对电力系统的安全运行造成威胁。

4.4　社会工程学风险

社会工程学（Social Engineering）入侵是指利用人的弱点而不是计算机系统漏洞来突破信息安全防御措施的入侵手段。如果说以上 3 种风险是可预防、可预警的，那么社会工程学风险则存在很大的不可控和不可预见性，因为它主要由人的心理和行为决定，“人”是“整个安全链中最薄弱的一环”。社会工程学攻击的过程包括目标确认、信息收集、信任建立、陷阱设置和利益获取。人工智能系统的操作对人员的要求较高，如果人员存在安全意识不强、操作不当等情况，则会很容易被别有用心之人利用，通过钓鱼攻击（最常见的是钓鱼邮件，通过使用自然语言处理技术生成伪造的电子邮件或者消息）、等价交换、诱饵计划、主动提供技术支持等社会工程学手段攻击，从而造成敏感信息泄露、被勒索诈骗等后果，影响电力生产环境的安全和电力系统的安全稳定运行。

为了减少和避免人工智能技术应用给电力行业带来的网络安全风险，需要强化统筹安全与发展，从而更好地发挥人工智能技术的优势和价值，助推电力行业的数字化转型。

5.1　健全政策法规，强化人工智能应用保障机制

一是推进现有网络安全法律法规向人工智能领域延伸适用，国家及电力行业主管部门应结合《网络安全法》《数据安全法》《个人信息保护法》等法律法规出台人工智能行业应用新的监管要求，为人工智能在电力行业应用“保驾护航”。二是结合国家发展改革委 2014 年第14 号令《电力监控系统安全防护规定》等电力行业网络安全监管要求，完善电力行业人工智能领域法规体系，重点对电力生产安全、数据安全、个人隐私保护、算法规范应用等方面加强监管，强化对人工智能技术应用的法律约束。三是依据国家顶层人工智能发展战略，结合“十四五”规划和党的二十大报告里面提到的人工智能发展规划，研究制定电力行业发展规划，充分考虑人工智能在电力行业应用的可靠性、稳定性和安全性，落实人工智能国家战略，以应对日趋激烈的国际竞争。

5.2　加强自主可控，夯实安全与创新发展的基础

为保障人工智能技术在电力行业的可靠应用，国家应加大政策扶持力度，推进电力人工智能系统基础设备安全自主可控。一是推进核心技术研发攻关，提升软硬件实力。主要包括智能芯片、智能服务器、智能传感器及配套的智能操作系统、软件框架、第三方库等，保障软硬件供应链安全可信、可控、可靠，实现人工智能高端基础设备不被“卡脖子”。二是强化电力行业人工智能大模型发展。作为人工智能的核心，可靠、可控、安全的人工智能模型需要以海量优质数据和强大的算力作为支撑， 进 行 反 复 训 练、 不 断 迭 代。我 国 应 充 分发挥自身在大算力方面的优势，结合电力大数据，实现电力行业人工智能核心能力的自主可控 。

5.3　优化防护策略，完善安全技术防护体系

从风险的精准化解到安全漏洞的全面填补，应从风险产生的技术源头出发，实现对新一代人工智能失本、失新、失控、失权、失管 5 大风险的精准聚焦。因此，在技术本质层面，要加强数据加密、权限管控、模型监控、攻击检测、实战攻防演练、应急演练等技术防护手段的应用。一是电力行业应根据电力监控系统安全防护“十六字”方针，即“安全分区、网络专用、横向隔离、纵向认证”，结合人工智能应用情况，制定新的安全防护策略，编制行业标准规范与技术指南。二是针对人工智能在发、输、变、配、用各环节的应用，完善网络安全、数据安全、算法安全等安全防护技术手段，常态化开展攻防演练，为人工智能应用提供充足的安全防护。三是坚持电力人工智能系统建设与网络安全防护建设同步规划、同步建设、同步使用，让网络安全防护理念贯穿人工智能系统全生命周期。

5.4　强化宣传培训，提升安全防范意识水平

一是强化人工智能技术应用的网络安全宣传和教育培训，重点针对电力行业涉密数据、关键信息、模型算法逻辑等开展保密教育，尤其是面对新型社会工程学攻击手段，需要结合实际案例开展学习宣贯，同时常态化开展演习，提升员工的风险识别和处理能力。二是发挥考核指挥棒作用，在人工智能技术应用的重大生产和管理活动中，应将网络安全纳入具体的考核体系，进一步严格管理，或制定专项的防护策略，强化网络安全的红线意识和底线思维。

电力行业人工智能技术的应用是顺应国家数字中国建设、加快推进能源数字化智能化发展的必然选择和重要举措，也是能源企业加快数字化转型、构建新型能源体系的必然趋势和重要支撑。能源安全关乎国家安全，电力行业人工智能技术的应用需要以安全为前提和基础，要清醒认识到人工智能技术自身的不足与局限，全面梳理人工智能系统或产品的全生命周期中的安全风险，从技术和管理上加强安全风险识别和防范，有效地化解人工智能应用的网络安全风险，统筹人工智能发展与安全，为人工智能技术在电力行业的创新应用护航。由于人工智能技术尚处于蓬勃发展阶段，在电力行业的应用也正处于规模化阶段，因此本文对电力行业人工智能应用存在的网络安全风险分析还存在局限，在应对安全风险的防范策略研究上还存在不足，后续将持续关注人工智能技术在电力行业的应用，加强研究分析，以取得更全面、深入的研究成果。