arXiv 人工智能· Suorong Yang, Jiaxin Wang, Jiaming Su, Chentao Yue, Furao Shen, Peng Ye, Soujanya Poria·· 6 小时前AI 评分38
练得更少学得更多：基于不确定性引导渐进收缩的高效推理后训练方法
Learning More by Training Less: Uncertainty-Guided Progressive Contraction for Efficient Reasoning Post-Training
AI 导读
研究人员提出一种不确定性引导的渐进收缩框架，通过蒙特卡洛推理树揭示过程级不确定性，将监督与优化集中在最有学习价值的推理轨迹上。该框架在 SFT 期间结合学生模型的在线学习状态逐步收缩数据，仅需全量数据 SFT 的 0.22% 优化预算（训练曝光量减少逾 450x），即可保持甚至提升推理性能。实验表明该方法在不同 LLM 家族与黑盒教师模型间均具备良好泛化能力。
来源：arXiv 人工智能 · arxiv.org