SDC2024议题聚焦 | ExpAttack大语言模型越狱风险持续追踪框架(内含赠票)
2024-10-18 01:59:0 Author: mp.weixin.qq.com(查看原文) 阅读量:10 收藏

·SDC2024 议题预告 ·

*文末留言赠票

01
ExpAttack大语言模型越狱风险持续追踪框架

大语言模型技术和应用正在迅猛发展。一方面,大模型解放了社会生产力;另一方面,它们也带来了不断增加的内容安全风险。作为一项全新的技术,大语言模型的风险会随着时间逐渐显现。

在传统的安全领域,为了应对快速变化的网络攻击并减少来自未来的风险,Gartner引入了CTEM(持续威胁暴露管理)。借鉴Gartner的思路,我们提出了ExpAttack框架,这是一种“可成长”的系统,能够持续监测和追踪大语言模型的越狱风险,本议题将分享ExpAttack框架相关的技术细节。

02
演讲嘉宾

Knight

京东蓝军白鵺攻防实验室安全研究员。

多年实战攻防经验,多次参加全国HW、各省市HW,并参与过深信服SRC、字节SRC、GeekCon分享。目前主要研究大语言模型安全以及大语言模型赋能安全。

03
听众收获

1. 了解大语言模型越狱风险的概念和现状和影响;

2. 学习ExpAttack框架的技术细节,包括其设计原理、工作流程和应用场景;

3. 掌握大语言模型安全风险管理的方法和策略

4. 了解大语言模型赋能安全的概念和应用,例如如何使用大语言模型来增强安全能力;

5. 获取Knight在大语言模型安全领域的研究和实践经验。

04
报名参会

更多议题细节,欢迎来峰会现场聆听

···

文末留言赠票

在本文评论区留下你对本议题的看法或SDC 2024的祝福吧!我们将在留言中抽取10位幸运者,送出【SDC 2024门票】1张。

开奖时间:2024年10月19日10:00

球分享

球点赞

球在看

点击阅读原文查看更多


文章来源: https://mp.weixin.qq.com/s?__biz=MjM5NTc2MDYxMw==&mid=2458578608&idx=1&sn=08ee6c7534bfda5bc48d4e9e40c032f4&chksm=b18dde3a86fa572ca1a688462352870e1295124e29697ecd4d8ecfa6a49264a4d310d980a255&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh