隐式递归 LLM 系统的规范化思考机制

研究提出 REST（REpresentation-Supervised Thoughts）训练目标，将因果性、极小性、可分性和稳定性转化为可微损失加入交叉熵，解决大语言模型在隐空间递归推理时的表征失效问题。该方法适用于单智能体与多智能体系统，无需修改架构或增加推理参数。在涵盖数学、医学和代码等 7 个基准测试中，REST 相比纯交叉熵训练准确率最高提升 7.5 个百分点，答案收敛提升 30%。