arXiv 人工智能· Zhenghao He, Guangzhi Xiong, Sanchit Sinha, Bohan Liu, Wenqian Ye, Aidong Zhang·· 21 小时前AI 评分39
将大语言模型推理路径重构为阶段结构化轨迹
Rethinking Reasoning Paths as Phase-Structured Trajectories
AI 导读
针对大语言模型多步推理隐藏状态难以分析的问题,研究者提出将推理路径视为阶段结构化轨迹的分析方法 PAIR。该方法将可变长度路径映射到共享相对阶段,仅在同一问题和阶段内对比成功与失败轨迹,有效隔离路径质量信号。实验表明,PAIR 在多项基准上提升了模型轨迹排序与 Best-of-N 选择效果,并通过分阶段引导验证了表征的因果有效性。
来源:arXiv 人工智能 · arxiv.org