热点事件持续更新
研究团队提出大模型多轮越狱多样性奖励机制CoFiBreak
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
2026年11月2日，arXiv发布的研究提出了一种用于GRPO的由粗到细多样性奖励机制CoFiBreak，旨在保持低推理成本的同时，增强大语言模型在多轮越狱攻击中的策略多样性与有效性。实验结果显示，该方法在HarmBench评测中发现的成功细粒度策略数量达到基线的1.6至2.0倍，在AdvBench上的ASR@10达到98.8%。同时，该方法在未见受害模型Claude-Opus-4.6上也展现出71.0%的ASR@10迁移效果。研究团队表示相关代码将会开源。
AI 根据报道生成 · 8 小时前更新
最新进展11月2日 13:00
研究团队提出多轮越狱奖励机制CoFiBreak，多项测试表现显著提升且代码将开源。报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv 自然语言处理CoFiBreak：用于有效多轮越狱的由粗到细多样性奖励机制
CoFiBreak 提出一种用于 GRPO 的由粗到细多样性奖励机制，在保持低推理成本的同时提升大语言模型多轮越狱的攻击多样性与有效性。该方法在 HarmBench 发现的成功细粒度策略数量达基线的 1.6-2.0 倍，并在 AdvBench 达到 98.8% ASR@10。其攻击迁移至未见受害模型 Claude-Opus-4.6 亦可达 71.0% ASR@10，相关代码将开源。
本事件热度走势
当前热度 8·可比范围峰值 10（11月2日 14:00）·近 24 小时可比范围变化–
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。