![]()
2024年1月9日
写在前面：每年都有很多机构和公司发布新一年的网络安全趋势预测，只所以介绍IBM这一篇，主要是他非常强调AI在网络安全中的作用，最近了解到AI自身安全的一些进展，正好放在一起。AI安全模型方面，OWASP发布了《AI大模型应用网络安全治理检查清单V1.0》，增加对大模型安全的信任。《OWASP AI 安全和隐私指导》帮助实现AI系统的安全和隐私。MITRE 发布了MITRE ATLAS，类似MITRE ATT&CK，（https://atlas.mitre.org）目前包括14个tactics，82个techqiques，20个mitigations，22个case stuies。已有厂商都翻译成中文，大家可以参考。但对这部分知识的商业化使用，大家还在探索。AI管理体系的认证，ISO 发布人工智能管理体系认证的标准《ISO/IEC 42001 信息技术—人工智能—管理体系》，它为组织建立了一个框架，以便系统性地应对和控制与开发和部署 AI 有关的风险。ISO 42001 强调对负责任的 AI 实践的承诺，鼓励各组织针对其 AI 系统采取特定的控制措施，促进全球互操作性，并为负责任 AI 的开发和部署奠定基础。国内的软件测评中心，也开始对大模型的指令安全、内容安全、模型安全、网络安全、数据安全开展测评，保证大语言模型满足“可靠、可信、安全”要求，在隐私、内容、安全和伦理问题上能够合规合法，保障用户权益。AI安全的初创公司，目前了解到的有HiddenLayer（https://hiddenlayer.com/）、TrojAI（https://www.troj.ai/）、Protect AI、Robust Intelligence、CalypsoAI、Halcyon等公司也在AI安全领域耕耘。分别从不同的角度对AI进行保护。HiddenLayer的MLSec平台是一套用于保护企业机器学习（ML）和AI模型的工具。这些工具 passively 监视企业ML/AI模型和相关应用的性能和操作，实时扫描潜在的漏洞并提供加固建议，同时检测恶意代码/恶意软件的注入，并部署防御机制，以切断攻击者并隔离任何入侵。TrojAI提供的企业AI安全平台可帮助客户保护AI模型和应用程序远离风险和攻击。其平台可以在部署前测试AI模型并保护应用程序免于敏感数据泄露等问题，来帮助企业遵守OWASPAI框架等基准以及隐私法规。
其主要业务模块如下：
AI模型风险检测：TrojAI平台可以于AI和MLOps工作流程集成，在生产前自动渗透测试和扫描AI模型以识别潜在的风险和漏洞，例如后门、数据泄露和偏见。
AI应用程序保护：TrojAI平台可以保护AI应用程序免受攻击，例如数据操纵、提示注入、模型中毒和拒绝服务服务。
安全使用公共人工智能服务：通过AI防火墙过滤进出服务的流量，使用AI智能规则引擎阻止、编辑和审核活动，从而实现公共AI服务的安全使用。
合规性管理：TrojAI安全平台使组织能够在部署前测试模型，并在部署后保护应用程序免受敏感数据丢失等问题，从而遵守OWASPAI框架等基准以及隐私法规。
从世界大事到经济发展，2023 年都是难以预测的一年。 网络安全也不例外，带来了少许意想不到的变化。 随着组织开始规划2024 年的安全战略，该是回顾前一年并预测未来的时候了。 新年伊始，生成式AI 成为头条新闻并出人意料地主导了局面。 生成式AI许多新用法波及网络安全世界，成为热门话题和网络安全关注点，ChatGPT 的数据泄露凸显了这一风险。 网络安全专业人员也引入了人工智能技术，以帮助检测和预防攻击。 勒索软件一直是头条新闻，首先是数量的增加。 仅 3 月份就发生了 400 起攻击。 地方政府是今年的主要目标，发生了超过 34 起攻击事件，其中一起事件导致达拉斯关键系统关闭。 好消息方面，美国政府发布了 NIST 网络安全框架 2.0和白宫网络安全计划，采取措施保护关键基础设施免受网络攻击。 为了深入了解 2024 年网络安全行业的前景，我们与业内专家进行了交谈。 这些是他们的看法。2024年将是欺诈之年（Charles Henderson，IBM X-Force 全球主管） 2024年对于网络犯罪分子来说将是忙碌的一年，因为持续的地缘政治紧张局势、美国和欧盟的重大选举以及世界上最大的体育赛事（巴黎奥运会）都在几个月内举行。 这是一场完美的事件风暴，将使虚假信息活动达到一个全新的水平。 网络犯罪分子拥有通过人工智能设计欺诈策略来欺骗毫无戒心的用户、消费者甚至公职人员所需的一切资源。 我们即将看到网络犯罪分子使用经过改进的深度造假、音频造假和非常令人信服的人工智能制作的网络钓鱼电子邮件，欺骗公众并推进其恶意活动。生成式AI 将使网络犯罪分子“获取客户”变得更加容易（Charles Henderson，IBM X-Force 全球主管） 到目前为止，网络犯罪分子从多年来泄露的数十亿数据中获利的方式非常有限。 但由于生成式AI，这一切都将改变。 生成式AI 将在几分钟内，帮助犯罪分子对这些巨大的数据集完成过滤、关联和分类，并以编程方式将它们组合在一起，以便网络犯罪分子为潜在目标创建档案。 生成式AI优化目标选择的能力与它在营销中改进客户获取流程的方式没有什么不同—只是合法性的角度不同。企业将看到大量“分身用户”涌入（Dustin Heywood，IBM X-Force 首席架构师） 目前，暗网上有数以百万计的有效企业凭证，而且数量还在持续增加，攻击者正在将身份武器化，将其视为访问特权帐户的秘密手段。 明年，我预计我们会看到更多的“分身”用户出现在企业环境中，用户今天以某种方式行事，第二天又以另一种方式行事—这种异常行为应该是企业被入侵的迹象。攻击者在冒用他们不认识的合法用户的数字身份，这种趋势在 2024 年只会加剧。安全和密码保障从未如此重要。为人工智能版本的 Morris Worm 做好准备（John Dwyer，IBM X-Force 研究主管） 人们普遍认为莫里斯蠕虫病毒是 1988 年报道的第一起网络攻击。我认为在相对近期内，我们将看到“类似莫里斯蠕虫病毒”的事件，人工智能被证实可以用来扩大恶意活动的规模。 随着人工智能平台开始普遍可供企业使用，对手将开始测试新兴的人工智能攻击面，人工智能采用规模的扩大，攻击活动也会随之增加。 虽然距离人工智能发起的网络攻击成为常态的日子还很遥远，但这些事情不会在一夜之间发生，“首演”可能即将到来。勒索软件面临中年危机，正在发生转变（John Dwyer，IBM X-Force 研究主管） 勒索软件可能会在 2024 年面临衰退，因为越来越多的国家承诺不支付赎金，越来越少的企业屈服于加密系统的压力—选择将资金转移到重建系统而不是解密系统。 勒索软件运营商开始面临现金流问题，使其难以保持他们的资源密集型活动。 虽然我们预计勒索软件将转向高压数据勒索攻击，但它不会消失，因为我们预计它将把重点转移到威胁攻击者的影响力仍然强大的消费者或小型企业上。但考虑到针对中小企业的赎金要求可能少于大企业，勒索软件显然正在发生转变。生成式 AI 的采用将迫使 CISO 专注于关键数据（Akiba Saeedi，IBM Security 数据安全副总裁） 随着企业开始将生成式AI嵌入其基础设施中，他们正在应对将各种类型的数据集中到人工智能模型中、各种利益相关者访问这些模型和不断吞入的数据，以及实际推理和实时使用该模型所带来的新风险。这种风险将促使 CISO 重新定义哪些数据（例如关键知识产权）受到威胁后会对组织构成生存威胁，并重新评估围绕数据的安全性和访问控制。 数据安全、保护和隐私措施是人工智能驱动的商业模式成功的关键。但随着数据在整个环境中变得更加动态和活跃，关键数据的发现、分类和优先级将成为 2024 年安全领导者的首要行动。生成式 AI将提升安全分析师的角色（Chris Meenan，IBM Security 产品管理副总裁） 多年来，公司一直在使用人工智能和机器学习来提高安全技术的效率，而生成式AI的引入有望最大限度地发挥安全中人的因素。 在接下来的一年中，生成式AI 将开始代表安全团队承担某些繁琐的管理任务，但除此之外，它还将使经验不足的团队成员能够承担更具挑战性的更高级别的任务。 例如，我们将看到生成式AI 被用来将机器生成的日志数据或分析输出等技术内容翻译成简化的语言，使新手用户更容易理解和操作。 通过将这种类型的生成式AI 嵌入到现有工作流程中，不仅可以释放安全分析师当前角色的时间，而且使他们能够承担更具挑战性的工作—减轻当前安全人员和技能挑战造成的一些压力。从威胁预防到预测——网络安全接近历史性里程碑（Sridhar Muppidi，IBM Security 首席技术官） 随着人工智能跨越新的门槛，大规模的安全预测变得更加切实。 尽管生成式AI的早期安全用例侧重于前端，提高安全分析师的工作效率，但我认为我们很快看到生成式AI对后端产生变革性影响，以完全重构威胁检测和响应为威胁预测和保护。技术已经存在，创新也已经成熟。网络安全行业很快将达到一个历史性的里程碑：实现大规模预测。解决安全“身份危机”的新方法（Wes Gyure，IBM Security 身份和访问管理总监） 随着组织不断扩展其云服务和应用程序，每个组织都带来了自己不同的身份功能—横跨云、本地系统和应用程序创建一个由断开连接的身份配置文件和功能组成的网络。过去，组织希望通过单一身份解决方案或平台来巩固这些身份，但在今天的现实中，组织逐渐接受这样的事实：这种方法既不实际也不可行。 在未来的一年中，组织将采取“身份结构”（identity fabric）方法，旨在集成和增强现有的身份解决方案，而不是取代它们。目标是创建一个不太复杂的环境，在其中可以执行一致的安全身份验证流程和可见性。随着量子技术的进步，“先拿到，后解密”攻击变得更加普遍（Ray Harishankar，IBM 院士，IBM 量子安全） 量子系统的性能不断接近与密码学相关的临界点，世界经济论坛进行的研究、国家安全备忘录和 CNSA 发布的时间表表明，量子计算机可能在2030年代，有能力破解世界上最广泛使用的安全协议。目前，经典系统仍然容易受到“先拿到，后解密”的攻击—攻击者窃取并存储数据，以便有机会使用未来的量子计算机解密。随着量子计算的快速发展，我们相信这些攻击在未来几年将变得更加普遍。 认识到这些风险，美国国家标准与技术研究院 (NIST) 已经开始开发新的量子安全密码标准，预计将于 2024 年初发布第一个官方标准。预料到这种局面，组织开始着手识别其环境中使用的加密技术，为向量子安全加密技术的过渡做好准备，以确保其数据和系统免受量子解密带来的威胁。由于攻击者已经在实施“先拿到，后解密”的攻击，并且一些估计显示这种转变可能需要长达 15 年的时间，因此组织越早开始越好。 2023年是难以预测的一年，2024年肯定还会有更多惊喜。但通过适当的规划和灵活的网络安全策略，您的组织可以应对这些挑战。https://securityintelligence.com/articles/cybersecurity-trends-ibm-predictions-2024/
文章来源: https://mp.weixin.qq.com/s?__biz=Mzg3NjU4MDI4NQ==&mid=2247485742&idx=1&sn=afe2391f9936cd1323160f30dffda77f&chksm=cf3155fcf846dcea9bfabcd655ed2888c40ee1af540e7696c912dcb2061d16755f325eef7cf8&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh