研究者提出L2RR算法解决GRPO数据集失配问题
Start here
2026年11月3日,针对可验证奖励强化学习中源训练集与目标测试集分布不一致的问题,arXiv机器学习领域发表相关研究,提出了一种将目标端性能反馈引入GRPO的重加权采样方法L2RR(learning-to-reweight rollout)。该方法通过双层优化目标来学习源提示词的离散采样分布,在最大化保留目标集准确率的同时,惩罚增量信息较低的采样。在6个数学推理基准和3种模型规模上的实验结果表明,L2RR成功提升了模型的目标域性能并改善了采样效率。
AI-generated from reports · Updated 9 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 机器学习数据集不匹配对可验证奖励强化学习中的 GRPO 至关重要
针对源训练集与目标测试集分布不一致的问题,研究提出将目标端性能反馈引入 GRPO 的重加权采样方法 L2RR(learning-to-reweight rollout)。该方法通过双层优化目标学习源提示词的离散采样分布,在最大化保留目标集准确率的同时惩罚增量信息较低的采样。在 6 个数学推理基准和 3 种模型规模上的实验表明,L2RR 提升了目标域性能并提高了采样效率。
Story heat trend
Current heat 7·Comparable peak 9(Nov 3 18:00)·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.