精选

RECAP：面向大语言模型高效推理的冗余感知归因学习

针对大语言推理模型常生成正确却冗长低效的推理链问题，现有优化方法多依赖轨迹级或局部标记信号，未能充分建模步骤间的语义依赖，导致难以有效区分冗余步骤与关键支撑步骤。研究团队提出了 RECAP（通过传播实现的冗余感知信用分配）方法。该方法基于推理步骤在后续推导中的实际下游作用精准分配信用，从而在确保模型推理准确率的前提下精简推理过程，显著提升推理效率。