热点事件持续更新
研究团队提出Loopback Transformer架构
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
2026年11月6日，研究团队在arXiv发表论文提出Loopback Transformer架构。该架构通过分离输入路径与个体更新，利用几何衰减与注意力机制控制并分配更新权重。在ClimbMix数据集上的评测显示，该架构在191M至3B规模下，仅需标准Transformer 40%至75%的参数即可取得更低验证损失；在1.4B与3B规模的13项下游任务中平均准确率更高，且在191M至778M规模下性能优于7种现有的循环残差设计。
AI 根据报道生成 · 6 小时前更新
最新进展11月6日 13:00
团队提出Loopback Transformer，仅需40-75%参数即在多项测试中超越标准架构。报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- arXiv 机器学习Loopback Transformer：迈向残差循环 Transformer 的统一视角
Loopback Transformer 提出通过分离输入路径与个体更新，利用几何衰减与注意力机制控制并分配更新权重。在 ClimbMix 上，该架构在 191M 至 3B 规模下仅需标准 Transformer 40-75% 的参数即可取得更低验证损失。其在 1.4B 与 3B 规模的 13 项下游任务中平均准确率更高，且在 191M 至 778M 规模优于 7 种循环残差设计。
本事件热度走势
当前热度 9·可比范围峰值 10（11月6日 14:00）·近 24 小时可比范围变化–
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。