arXiv 自然语言处理· Zinan Tang, Zhuoshi Pan, Kairui Chen, Ze Yan, Shaomian Zheng, Yukun Zhang, Gang Wang, Biqing Huang·· 8 小时前AI 评分41
CoTranslator：用于推理蒸馏的反向至正向思维链转换器
CoTranslator: Reverse to Forward Chain-of-Thought Translator for Reasoning Distillation
AI 导读
研究人员提出 CoTranslator，通过将反向 CoT 响应转换为经过验证的正向响应分布，以支持学生模型训练数据的高效生成与验证。在 6 个数学基准上，它相比语义抑制将 6 个学生模型的平均准确率最高提升 5.82 个百分点，并在两个 4B 学生模型上以 35.9% 的预估算力保留了拒绝采样 95.0% 的平均准确率。
来源：arXiv 自然语言处理 · arxiv.org