Skip to content
arXiv 人工智能· Jiaying Zhou, Jiachen Liu, Qingchao Chen·· 2 days agoAI score35

一个偏移,两个方向:基于子群偏移的基线调整

One Offset, Two Directions: Baseline Adjustment via Subgroup Offsets

Not yet translated; shown in Chinese.

AI guide

针对 GRPO 全局基线无法兼顾异质子群差异的问题,研究提出基于子群均值与全局均值的偏移量来调整基线。该方案引入带符号系数衍生出对齐(强化子群内相对表现)与对比(强化子群相对质量)两个方向,且不改变奖励信号与优化目标。在 Qwen3-8B-Base 与 Olmo3-7B-Base 的 4 个竞赛级数学基准测试中,两方向均稳定提升了多样本覆盖率,其中对比方向效果更强。

Source:arXiv 人工智能 · arxiv.org