ホットトピック継続更新中
研究团队提出Loopback Transformer架构
1 件の報道1 件の報道元10 時間前 更新
まずこの件を把握する
AI 概要
2026年11月6日，研究团队在arXiv发表论文提出Loopback Transformer架构。该架构通过分离输入路径与个体更新，利用几何衰减与注意力机制控制并分配更新权重。在ClimbMix数据集上的评测显示，该架构在191M至3B规模下，仅需标准Transformer 40%至75%的参数即可取得更低验证损失；在1.4B与3B规模的13项下游任务中平均准确率更高，且在191M至778M规模下性能优于7种现有的循环残差设计。
AI が報道をもとに生成 · 9 時間前 更新
最新の進展11月6日 13:00
团队提出Loopback Transformer，仅需40-75%参数即在多项测试中超越标准架构。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月6日
- arXiv 机器学习Loopback Transformer：迈向残差循环 Transformer 的统一视角
Loopback Transformer 提出通过分离输入路径与个体更新，利用几何衰减与注意力机制控制并分配更新权重。在 ClimbMix 上，该架构在 191M 至 3B 规模下仅需标准 Transformer 40-75% 的参数即可取得更低验证损失。其在 1.4B 与 3B 规模的 13 项下游任务中平均准确率更高，且在 191M 至 778M 规模优于 7 种循环残差设计。
このストーリーのホット度の推移
現在のホット度 8·比較可能範囲のピーク 10（11月6日 14:00）·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。