arXiv 机器学习· Eric O. Korman·· 8 小时前AI 评分35
用于仅含答案数据高效后训练与验证的逆向推理模型
Inverse Reasoning Models for Efficient Post-Training and Verification from Answer-Only Data
AI 导读
研究人员提出一种基于仅含答案数据的逆向推理模型自蒸馏方法，通过条件生成推理轨迹来解决无思维链数据的高效后训练问题。在 Qwen3-0.6B 模型与 Countdown、GSM8K 任务测试中，该方法在 GRPO 训练饱和后使困难提示词的 pass@1 表现近乎翻倍，且在离线蒸馏中全面优于拒绝采样自蒸馏。
来源：arXiv 机器学习 · arxiv.org