arXiv 机器学习· Parv Kapoor, Teresa Fortes, Claudia Mamede, Rui Abreu, Jonathan Aldrich, Eunsuk Kang·· 11 小时前AI 评分43
拒绝不等于鲁棒：测量自回归语言模型的有害可达性
Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models
AI 导读
新研究提出有界延续分析（BCA），通过精确概率模型检验测量自回归大语言模型（LLM）隐藏的有害可达性。该方法将生成建模为 token 前缀随机过程并构建延续树，弥补传统攻击成功率（ASR）仅评测采样输出的缺陷。在 4 个指令微调 LLM 和 100 个 JailbreakBench 行为上的实验证明，BCA 能有效量化隐藏风险并指导红队测试。
来源：arXiv 机器学习 · arxiv.org