arXiv 自然语言处理· Qingyang Xu·· 2 天前AI 评分44
是什么驱动了大模型方言越狱?表层形式、文化语境与策略库消融研究
What Drives Dialectal Jailbreaks? An Ablation of Surface Form, Cultural Framing, and Strategy Banks
AI 导读
一项针对大语言模型方言越狱机制的消融研究表明,方言表层形式并非高攻击成功率的关键,策略库表现力才是主要驱动因素。测试中未优化的普通话与方言翻译攻击成功率均低于 8%,而采用优化器控制策略库后攻击成功率达到 98%-100%。文化中立的通用策略库同样能达到该上限,方言选择则主要影响查询效率与响应严重程度。
来源:arXiv 自然语言处理 · arxiv.org