arXiv 机器学习· Zhiwei Zhang, Huayu Deng, Fei Zhao, Jiayan Fu, Bin Liang, Kam-Fai Wong, Mu Chuan·· 1 天前AI 评分43
ROSS：通过选择性监督重新学习大模型自生成轨迹
ROSS: Relearning from Self-Generated Rollouts through Selective Supervision
AI 导读
ROSS 方法通过保留完整历史轨迹作为上下文并仅对选定的模型生成片段施加 loss，有效重新利用了大语言模型后训练阶段的自生成轨迹经验。在 Qwen3.6-35B-A3B 上，ROSS 将六项基准 MOPD 平均分从 58.40% 提升至 62.20%，SWE-bench Verified 得分从 64.20% 提升至 68.40%。
来源：arXiv 机器学习 · arxiv.org