ホットトピック継続更新中
研究团队提出大模型多轮越狱多样性奖励机制CoFiBreak
1 件の報道1 件の報道元10 時間前 更新
まずこの件を把握する
AI 概要
2026年11月2日，arXiv发布的研究提出了一种用于GRPO的由粗到细多样性奖励机制CoFiBreak，旨在保持低推理成本的同时，增强大语言模型在多轮越狱攻击中的策略多样性与有效性。实验结果显示，该方法在HarmBench评测中发现的成功细粒度策略数量达到基线的1.6至2.0倍，在AdvBench上的ASR@10达到98.8%。同时，该方法在未见受害模型Claude-Opus-4.6上也展现出71.0%的ASR@10迁移效果。研究团队表示相关代码将会开源。
AI が報道をもとに生成 · 10 時間前 更新
最新の進展11月2日 13:00
研究团队提出多轮越狱奖励机制CoFiBreak，多项测试表现显著提升且代码将开源。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月2日
- arXiv 自然语言处理CoFiBreak：用于有效多轮越狱的由粗到细多样性奖励机制
CoFiBreak 提出一种用于 GRPO 的由粗到细多样性奖励机制，在保持低推理成本的同时提升大语言模型多轮越狱的攻击多样性与有效性。该方法在 HarmBench 发现的成功细粒度策略数量达基线的 1.6-2.0 倍，并在 AdvBench 达到 98.8% ASR@10。其攻击迁移至未见受害模型 Claude-Opus-4.6 亦可达 71.0% ASR@10，相关代码将开源。
このストーリーのホット度の推移
現在のホット度 8·比較可能範囲のピーク 10（11月2日 14:00）·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。