ホットトピック継続更新中
研究团队提出开源循环Transformer架构ARLoop
1 件の報道1 件の報道元9 時間前 更新
まずこの件を把握する
AI 概要
2026年11月4日，研究人员在arXiv上发布完全开源的循环Transformer架构ARLoop。该架构通过深度注意力残差选择性聚合层间表示，并进一步扩展至0.6B与1.2B参数规模。测试表明，仅使用0.5T tokens进行预训练的ARLoop 1.2B模型，在所有评估任务中均超越了Huginn-3.5B。此外，该架构在数学与代码任务上提升显著，能够以大幅减少的训练数据匹敌Qwen3.5-2B等同规模的非循环模型。
AI が報道をもとに生成 · 9 時間前 更新
最新の進展11月4日 13:00
研究团队提出开源循环架构ARLoop，1.2B模型仅用0.5T tokens训练即超越Huginn-3.5B。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月4日
- arXiv 自然语言处理ARLoop：基于注意力残差的完全开源预训练循环 Transformer
研究人员提出开源循环 Transformer 架构 ARLoop，通过深度注意力残差选择性聚合层间表示。该架构进一步扩展至 0.6B 与 1.2B 参数，其中仅用 0.5T tokens 预训练的 1.2B 模型在所有评估任务中均超越 Huginn-3.5B。其在数学与代码任务上提升显著，能以大幅减少的训练数据匹敌 Qwen3.5-2B 等同规模非循环模型。
このストーリーのホット度の推移
現在のホット度 8·比較可能範囲のピーク 10（11月4日 14:00）·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。