arXiv 人工智能· Yuqing Huang, Jack Ji, Jithin Pradeep, Sagarika Suresh, Jekaterina Novikova·· 9 小时前AI 评分41
$M^3$：将多轮越狱建模为马尔可夫决策过程的多 LLM 系统
$M^3$: A Multi-LLM System for Multi-Turn Jailbreaking as a Markov Decision Process
AI 导读
自动化红队测试框架 $M^3$ 将大语言模型的多轮越狱形式化为有限时域马尔可夫决策过程（MDP）。在该框架中，攻击者 LLM 基于状态 LLM 提供的紧凑内部状态与目标 LLM 展开多轮交互。在 2 个基准与 6 个目标模型测试中，$M^3$ 的 ASR@5 最高提升 53%，即使采用轻量级攻击者，ASR@1 和 ASR@5 也分别最高提升 26% 与 34%。
来源：arXiv 人工智能 · arxiv.org