跳到正文
热点事件持续更新

研究团队发布循环架构语言模型Dory1.0-4B

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

2026年11月4日,研究团队在arXiv发布论文,推出40亿参数隐式循环语言模型Dory1.0-4B。该模型基于nGPT架构,在6万亿token上完成预训练,支持256K上下文,并能通过单个权重动态适配不同的推理算力预算。在机制设计上,其循环计算仅缓存最后一轮键值,以此保持固定的显存占用。性能方面,模型在两轮及以上循环时,平均表现超过Qwen3.5-9B与Gemma 4 12B。目前,研究团队已开源该模型的BF16、MXFP8、NVFP4以及GGUF量化版本。

AI 根据报道生成 · 7 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. arXiv 自然语言处理
    Dory1.0-4B 论文发布:基于循环架构与弹性计算深度的 4B 语言模型

    研究团队推出 40 亿参数的隐式循环语言模型 Dory1.0-4B,支持单个权重动态适配不同推理算力预算。该模型基于 nGPT 架构并在 6 万亿 token 上预训练,支持 256K 上下文,循环计算时仅缓存最后一轮键值以保持固定显存占用。在两轮及以上循环时,其平均表现超越 Qwen3.5-9B 与 Gemma 4 12B,且已开源 BF16、MXFP8、NVFP4 与 GGUF 量化版本。

本事件热度走势

当前热度 8·可比范围峰值 10(11月4日 14:00)·近 24 小时可比范围变化–

02.557.51011月4日14:0011月4日16:0011月4日18:0011月4日20:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。