跳到正文
原文
Cerebras 官方博客(网页)·· 16 天前AI 评分32

Implicit Chain Transformer:用于高效状态跟踪的新型架构

Thinking Inside the Box: The Implicit Chain Transformer for Efficient State TrackingDecember 12, 2025

AI 导读

研究团队提出 Implicit Chain Transformer(ICT),通过跨时间步传递可学习意图隐向量显式更新运行状态,解决标准 Transformer 的无状态瓶颈。该架构提供自回归密集传播与周期性稀疏传播两种策略,并通过迭代隐式反馈保持高效并行训练。在模运算与图遍历任务评测中,ICT 取得了高准确率,且未增加 CoT 带来的推理延迟成本。

来源:Cerebras 官方博客(网页) · cerebras.ai