One Model, Two Paths：平衡语言模型的单次前向与循环推理性能

研究提出一种基于加权损失的联合训练策略，在不增加参数的前提下让语言模型同时兼顾单次前向与循环推理性能。该方法通过复用中间层权重支持循环计算，并引入冻结原始模型的指导，显著减轻了双路径共享权重导致的单次前向质量退化。在预设容差范围内保留单次前向能力的同时，该方案有效提升了模型的循环预测效果。