arXiv 机器学习· Xuan Liu, Jingbin Qian, Haosheng Chen·· 1 天前AI 评分36
GapFT：从 Pass@K 与 Pass@1 的差距中学习
Learning from the Gap Between Pass@K and Pass@1
AI 导读
研究人员提出 GapFT 微调方法，通过针对单样本失败但在 K 个样本内成功的问题进行训练，将搜索能力吸收进单样本解码。在 Llama-3.1-8B 上，GapFT 使 LogiQA 2.0 和 ReClor 的 Pass@1 分别提升 14.4 与 13.9 分，仅用三分之一数据即匹敌全量验证池微调。该优势在 Qwen2.5-7B 上同样成功复现，且持续优于同预算的均匀验证 RFT。
来源：arXiv 机器学习 · arxiv.org