arXiv 自然语言处理· Adel Khorramrouz, Yi-Chia Wang, Sharon Levy·· 7 小时前AI 评分42
Moral Combat：利用道德基础理论越狱 LLM
Moral Combat: Exploiting Moral Foundations Theory to Jailbreak LLMs
AI 导读
研究人员提出基于道德基础理论（MFT）的多智能体框架，通过将有害请求重新构想为符合道德准则的行为来绕过 LLM 的安全护栏。该框架在 3 个越狱数据集以及 5 款开源和闭源模型上完成评估，显示模型极易受到道德化重构影响并表现出高单次越狱成功率。分析还发现现有安全基准在涉及的道德基础上分布不均衡。
来源：arXiv 自然语言处理 · arxiv.org