arXiv 人工智能· Jiaming Su, Suorong Yang, Xudong Li, Tengchao Yang, Peng Ye·· 5 小时前AI 评分36
BoundaryEvo:面向长链推理蒸馏的能力边界数据-模型协同演化框架
BoundaryEvo: Data-Model Co-Evolution at the Capability Boundary for Long-Chain Reasoning Distillation
AI 导读
研究人员提出了两阶段数据-模型协同演化框架 BoundaryEvo,用于大模型向小模型的长链推理蒸馏。该框架先通过直接蒸馏少量教师轨迹建立学生模型的基础推理能力,再根据学生模型的动态能力边界持续筛选其未掌握但专家可解的问题进行训练。
来源:arXiv 人工智能 · arxiv.org