arXiv 自然语言处理· Wen-Zhi Li, Sainyam Galhotra, Claire Cardie·· 4 小时前AI 评分35
通过自适应回放保持可验证奖励强化学习中的推理多样性
Preserving Reasoning Diversity in Reinforcement Learning with Verifiable Rewards via Adaptive Replay
AI 导读
研究人员提出针对性自适应回放框架 TAR，通过构建基座模型多样化解法的紧凑记忆库并在行为受抑制时选择性回放，解决 RLVR 降低大语言模型推理多样性的问题。在 6 个数学推理基准和 2 种千问 Qwen2.5 模型规模上的实验表明，TAR 取得了更佳的推理性能与多样性平衡，并大幅减少遗忘。相关代码已开源。
来源：arXiv 自然语言处理 · arxiv.org