Skip to content
Hot storiesContinuously updated

研究团队提出大模型多轮越狱多样性奖励机制CoFiBreak

1 reports1 reporting sourcesUpdated 11 hours ago

Start here

AI overview

2026年11月2日，arXiv发布的研究提出了一种用于GRPO的由粗到细多样性奖励机制CoFiBreak，旨在保持低推理成本的同时，增强大语言模型在多轮越狱攻击中的策略多样性与有效性。实验结果显示，该方法在HarmBench评测中发现的成功细粒度策略数量达到基线的1.6至2.0倍，在AdvBench上的ASR@10达到98.8%。同时，该方法在未见受害模型Claude-Opus-4.6上也展现出71.0%的ASR@10迁移效果。研究团队表示相关代码将会开源。

AI-generated from reports · Updated 11 hours ago

Latest developmentsNov 2 13:00
研究团队提出多轮越狱奖励机制CoFiBreak，多项测试表现显著提升且代码将开源。

Report timeline

Follow the reports to see different sides of the story.

Nov 2
  1. arXiv 自然语言处理
    CoFiBreak：用于有效多轮越狱的由粗到细多样性奖励机制

    CoFiBreak 提出一种用于 GRPO 的由粗到细多样性奖励机制，在保持低推理成本的同时提升大语言模型多轮越狱的攻击多样性与有效性。该方法在 HarmBench 发现的成功细粒度策略数量达基线的 1.6-2.0 倍，并在 AdvBench 达到 98.8% ASR@10。其攻击迁移至未见受害模型 Claude-Opus-4.6 亦可达 71.0% ASR@10，相关代码将开源。

Story heat trend

Current heat 7·Comparable peak 10（Nov 2 14:00）·Comparable change, last 24 hours–

02.557.510Nov2Nov2Nov2Nov3

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.