本文へスキップ
ホットトピック継続更新中

研究团队发布循环架构语言模型Dory1.0-4B

1 件の報道1 件の報道元9 時間前 更新

まずこの件を把握する

AI 概要

2026年11月4日,研究团队在arXiv发布论文,推出40亿参数隐式循环语言模型Dory1.0-4B。该模型基于nGPT架构,在6万亿token上完成预训练,支持256K上下文,并能通过单个权重动态适配不同的推理算力预算。在机制设计上,其循环计算仅缓存最后一轮键值,以此保持固定的显存占用。性能方面,模型在两轮及以上循环时,平均表现超过Qwen3.5-9B与Gemma 4 12B。目前,研究团队已开源该模型的BF16、MXFP8、NVFP4以及GGUF量化版本。

AI が報道をもとに生成 · 9 時間前 更新

報道タイムライン

報道をたどり、出来事のさまざまな側面を知る。

11月4日
  1. arXiv 自然语言处理
    Dory1.0-4B 论文发布:基于循环架构与弹性计算深度的 4B 语言模型

    研究团队推出 40 亿参数的隐式循环语言模型 Dory1.0-4B,支持单个权重动态适配不同推理算力预算。该模型基于 nGPT 架构并在 6 万亿 token 上预训练,支持 256K 上下文,循环计算时仅缓存最后一轮键值以保持固定显存占用。在两轮及以上循环时,其平均表现超越 Qwen3.5-9B 与 Gemma 4 12B,且已开源 BF16、MXFP8、NVFP4 与 GGUF 量化版本。

このストーリーのホット度の推移

現在のホット度 8·比較可能範囲のピーク 10(11月4日 14:00)·直近24時間の比較可能な変化–

02.557.51011月4日14:0011月4日17:0011月4日19:0011月4日22:00

トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。