arXiv 人工智能· Gerard Grau Garc\'ia, Arnau Padr\'es Masdemont, Niccol\`o Grillo, Jordi Ros-Giralt, Arash Behboodi, Victor Conchello Vendrell·· 4 小时前AI 评分42
从思维链到循环：基于循环 Transformer 的非自回归隐式推理
From Chain-of-Thought to Loops: Non-Autoregressive Latent Reasoning via Looped Transformers
AI 导读
研究提出 LLoCoT 框架，利用循环 Transformer 迭代优化隐式工作空间，实现非自回归隐式推理并支持并行采样。在 HumanEval 和 MBPP 评测中，LLoCoT 取得了评估方法中的最高平均分，准确率与显式 CoT 基线相当。相比 Reasoning SFT，LLoCoT 将首个答案 token 生成时间缩短约 36 倍、推理阶段延迟降低约 42 倍，端到端吞吐量提升 9.2%。
来源：arXiv 人工智能 · arxiv.org