有关 AI 优势与风险的争论如今已成媒体日常，很多此类讨论都集中在潜在负面影响上，话题范围从工作自动化导致广泛失业到 AI 用于创建 “深度伪造” 视频。但另一方面，我们已经在享受 AI 自动化助手的正面效果所带来的种种好处，而自动驾驶汽车之类的未来好处现在眼见着即将到来。

AI 将对几乎所有技术和行业产生革命性影响，网络安全也不例外。

那么，AI 将给网络攻击和防御带来怎样的短期与长期发展？我们又该为此做好哪些准备？

AI 已经能够强化恶意软件，使之可以进化和自适应，对抗安全防御措施。相应地，机器学习也被用来分析目标网络中的漏洞。很快，AI 甚至会具有通过加密货币平台撑起攻击资金链的功能，无需人工干预，自动流转收益。

在国家层面，军用级 AI 也将成为关键基础设施的重大威胁，还会成为传统网络战方法的补充。理论上，这些新 AI 攻击方法都可能商品化，当成服务出售。同时，AI 不断增强的功能会促进虚假在线人物的创建。人们在与这些虚假在线人物互动时很可能根本分辨不出到底是不是真人，从而陷入 AI 驱动的大规模自动化社会工程欺诈陷阱。

更远的将来，AI 还有可能具备战略行动能力，包括策划和编排自己的攻击。尽管看起来可能有点玄幻，但我们可能会看到一个大范围内持续上演 AI 对战的未来——不仅仅在攻击与防御系统之间，而是多个恶意 AI 之间抢夺数字资源。

当然，AI 也是网络防御的重要工具。事实上，随着我们越来越多地采用基于云的服务和虚拟化网络，传统防御策略逐渐过时，AI 正成为对抗网络攻击不可或缺的工具。

安全供应商早在多年前就开始大量使用机器学习算法了。1990 年代，早期应用包括使用贝叶斯逻辑过滤垃圾电子邮件，或者使用大型神经网络分类垃圾邮件。如今，进一步的发展将机器学习算法与高级数据可视化相结合，创建智能安全界面。而且，使用 AI 实时处理大量信息可以让响应时间大幅缩短，还可以分析趋势和模式，预测网络攻击的发生。

安全 “免疫系统” 的开发当下也在不断纳入 AI。比如说，英国电信就在审查生物系统模型如何显示病毒在种群中的传播情况。将从这些模型中学到的东西应用到英国电信的网络上，他们就可以训练 AI 系统去测试不同防御策略，减少或阻止网络攻击中恶意软件的传播，控制感染并根除感染原因。而且这是个互惠互利的过程，因为分析该 AI 响应可使人类提升自身对网络威胁的理解和准备度。

展望未来，随着成功响应网络攻击的能力越来越好，AI 还会具有 “自愈能力”，动态复制人类分析师设计的最佳防御策略。这将进一步加速响应，解放人类专家的双手，让他们可以从事更复杂的调查。

与大多数技术一样，AI 提供的功能是 “不可知的”——既能用于防御也能用于攻击，且这两个领域中的成功都取决于底层策略与投资。

英国电信的 AI 用例已经表明，数据集访问是绝对的关键因素——如果没有数据，即便最先进的 AI 和机器学习技术也会很快失去准确度与可用性。这看起来似乎是不言自明的，而且对具有大量数据和不同输入的大企业而言不算大问题，但数据访问将是该领域未来成功的巨大驱动力。

人类与 AI 功能的协同能力也是一大影响因素，因为实际操作中很难找到能让分析师处理和调查大量数据的好方法。先进的可视化和实时交互接口是该过程的重要部分，但将分析师输入与机器学习算法（称为 “主动学习”）输出相结合却特别困难。这需要深入理解分析师工作方式，充分了解算法实时重配置及重训练方式，还会对 AI 实现的成功程度产生重要影响。

AI 系统的深层漏洞尚未得到人们的充分认知，给恶意黑客留下了利用 AI 的独特机会。与抗生素的发展类似，构建针对 AI 网络威胁的防御体系可能代价颇高，需要慎重考虑。敌对 AI 会不断进化，就像细菌对抗生素产生抗药性一样。最佳防御或许是尽可能多地研究各种情况，然后规划响应。

相关阅读

购买AI前首先要考虑这4个问题

深度伪造视频带来的威胁日益加剧