2023 SDC 议题抢先看

以GPT-4为代表的大型语言模型（LLM）给社会带来了革命性的变革，安全方面也不例外。笔者在研究LLM安全过程中，有些绕不过、无法不去思考的问题：

1) 导致LLM有如此能力和潜力的本质原因是什么？

2) 为什么LLM 输入与输出之间有如不同以往的特性？

3) 这些改变对于网络安全意味着什么？

经过对于学术界、工业界最新研究成果的学习、研究，笔者找到一个可能的答案是：从逻辑计算到神经计算的底层计算范式转移是本质原因之一。从逻辑计算到神经计算的转变导致对于绝大多数企业和个人，他们需要更关注LLM的输入输出，一定程度需要弱化对于LLM内部可解释性的深入研究。而这导致prompt安全成为未来的重点之一。

本报告包含如下内容：

结合LLM技术原理、prompt工程和微调技术，笔者提出在2个关键防御点上通过3种防御方案进行防御的框架。实验数据显示，这些方案能有效降低LLM角色扮演攻击的成功率高达90%。

LLM使得网络安全变得更复杂、风险更大，未来的攻防博弈也会更智能、更残酷。最后，笔者展望了未来在LLM prompt安全研究方向上的思考，特别是从自动对抗到智能对抗的转变。

更多议题细节，欢迎来 SDC 现场聆听