arXiv 自然语言处理· Siheng Xiong, Ali Payani, Faramarz Fekri·· 1 日前AI スコア37
通过结构化多层次建模增强语言模型推理能力
Enhancing Language Model Reasoning with Structured Multi-Level Modeling
未翻訳のため中国語で表示しています。
AI ガイド
研究提出多层次推理方法 MLR，通过轻量级 LoRA 规划器与基座模型执行器交替协作，将长 CoT 生成重构为双层随机过程以解决长程规划漂移。该方案结合 TSMC 提出迭代 Step-DPO 提供步级监督，在仅使用 DeepSeek-R1 蒸馏设置 10% SFT 和 5% 偏好数据的预算下，在数学与逻辑推理任务中超越强 RL 基线，长程推理更具鲁棒性。
出典：arXiv 自然语言处理 · arxiv.org