跳到正文
原文
arXiv 自然语言处理· Ilia Zaznov·· 6 小时前AI 评分35

Looped Transformer 引入因果潜在工作区架构

Causal Latent Workspaces for Looped Transformers

AI 导读

研究人员提出了因果潜在工作区 Transformer(causal latent workspace Transformer),这是一种锚定的 4 轮深度共享架构,允许各位置在共享块迭代间写入门控向量并检索因果前缀摘要。

来源:arXiv 自然语言处理 · arxiv.org