聚焦源代码安全,网罗国内外最新资讯!
编译:代码卫士
该漏洞影响可信平台如 Hugging Face 上的6000多个AI模型,凸显AI平台和开发人员解决供应链安全挑战的必要性。值得注意的是,该漏洞是由一名网络安全研究员率先发现的。
该漏洞的编号是CVE-2024-34359,是因对 “llama_cpp_python” 包中的 Jinja2 模板引擎滥用导致的严重漏洞。它位于模板数据处理中,后者并未获得正确的安全措施如沙箱等防护措施。尽管 Jinja2 支持沙箱,但本案例并未使用,从而导致攻击者可在主机系统上执行任意代码。
Jinja2 是用于模板渲染和HTML生成的一个 Python 库,但如未得到正确配置,则可能成为安全风险。相反,llama_cpp_python 包轻松集成 Python 易用性和 C++ 性能。它是复杂AI模型处理大量数据的理想工具,不过也可遭模板注入攻击。
该漏洞的重要性在于,AI系统会处理敏感数据集。这类漏洞会导致AI系统面临越权操作、数据盗取、系统攻陷和运营中断风险,从而影响个人隐私和组织机构的完整性。
AI系统的安全至关重要,因为它们的供应链依赖于第三方库和框架。鉴于AI系统通过系统集成攻击面得到扩展,因此,单个组件中的漏洞可影响整个系统。不过好在该漏洞已在0.2.72版本中修复,并额外添加了沙箱和输入验证措施。建议组织机构及时更新确保系统安全。
这一事件凸显了不断互联的世界中的风险。很多AI模型都会在AI共享,而如果其中一个模型中存在弱点,则会向病毒一样传播。它提醒开发人员和AI平台警惕软件供应链安全漏洞。烹饪之前要检查食物成分,同样也应确保所用软件是安全的。
https://www.hackread.com/ai-python-package-flaw-llama-drama-supply-chain/
题图:Pexels License
本文由奇安信编译,不代表奇安信观点。转载请注明“转自奇安信代码卫士 https://codesafe.qianxin.com”。
奇安信代码卫士 (codesafe)
国内首个专注于软件开发安全的产品线。
觉得不错,就点个 “在看” 或 "赞” 吧~