跳到正文
原文
arXiv 人工智能· Yafeng Tang, Hao Li, Hongsheng Yu, Qiang Fu·· 4 小时前AI 评分32

ReTeach:通过多轮反思与重试构建自教师

ReTeach: Building a Self-Teacher through Multi-Round Reflection and Retry

AI 导读

ReTeach 是一种反思型自蒸馏框架,仅依赖自生成尝试与结果级验证,通过多轮反思和重试构建自教师。该框架结合结果感知的样本加权策略与 on-policy 蒸馏,在保留单次推理的同时将迭代修正能力转移给学生模型。在涵盖数学推理、科学问答和工具调用的 6 个基准测试中,ReTeach 相比 GRPO 平均准确率提升 1.39 个百分点。

来源:arXiv 人工智能 · arxiv.org