[SecMet]是安全学术圈近期打造的一个线上线下结合的学术研讨模式,研讨会分为全公开和半公开模式,其中半公开模式仅对安全学术圈内部交流群和特殊专题投稿人员参加
,每期主题根据领域主席(Primary Area Chair,下文简称AC)来拟定或者学术汇报者内容来拟定(有兴趣组织或者汇报的学者可以发邮件[email protected],感谢!!!
)。
SecMet#3期主要为学术汇报
方式进行,详细日程安排如下:
序号 | 内容安排 | 汇报人 | 内容 |
---|---|---|---|
#1 | 主题汇报 | 吴怡欣 | 提示学习(Prompt Learning)的隐私泄漏风险分析 |
吴怡欣是CISPA亥姆霍兹信息安全中心张阳老师研究组的博士生。她的研究主要集中在机器学习隐私攻击和大模型安全问题。她的相关工作发表在顶级国际会议USENIX Security 会议上。
大规模预训练模型越来越多地通过一种新的范式——提示学习来应用到下游任务中。与微调不同,提示学习不更新预训练模型的参数。相反,它只学习一个输入扰动,即被添加到下游任务数据中用于预测的提示,从而降低训练成本。鉴于提示学习的快速发展,一个能够良好泛化的提示不可避免地成为一项宝贵的资产,因为创建它需要投入巨大的努力和专有数据。近期的研究中也发现提示学习存在一定的隐私泄漏风险。本次我的汇报将从属性推理攻击和成员推理攻击两个角度来分析提示学习的隐私泄漏风险。
https://yxoh.github.io/
特别鸣谢本次SecMet主要组织者:
历史SecMet列表
PS:欢迎各位继续投稿-专题笔记征稿 | Security Tasks of LLMs-Driven 2023
安全学术圈招募队友-ing
有兴趣加入学术圈的请联系 secdr#qq.com