arXiv 机器学习· Hongyi Henry Jin, Wenhan Yang, Meysam Ghaffari, Carlos Morato, Baharan Mirzasoleiman·· 16 小时前AI 评分47
从数周缩减至数小时：推理 LLM 的快速 SFT 数据生成方法
From Weeks to Hours: Fast and Principled SFT Data Generation for Reasoning LLMs
AI 导读
研究人员提出 SFTProbe，通过评估推理轨迹 5% 的 loss 预测数据质量，将推理 LLM 的 SFT 数据整理时间从数周缩减至数小时。在数学推理任务中，该方法生成的 5k 样本性能媲美 OpenThoughts-Math 的 89k 筛选样本，7.5k 样本准确率高出 2.5%。团队已开源相关代码及物理推理数据集，其训练的模型表现超越了 IPhO 2025 银牌模型。
来源：arXiv 机器学习 · arxiv.org