隐藏学习结构的动力学研究

研究人员提出了纤维调节理论（FRT）与纤维获取理论（FAT），用于研究模型隐藏学习结构的动力学及其相互制约关系。团队在 Qwen2.5-32B 上结合 AdamW、回放与输出蒸馏，实现了受保护的 Head 修复与固定容量 LoRA 更新。实验表明，协同策略在全部 4 次对比中的 teacher-forced Exact 指标均优于任一单独策略，并在第二条训练轨迹上取得了最低的宏观 NLL。