跳到正文
热点事件持续更新

研究提出免重训加速混合架构LLM长文本解码方法

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

2026年11月5日,arXiv发表的一项自然语言处理研究提出了一种免重训练的组合稀疏注意力方法,旨在不改变模型权重的前提下,加速大规模混合大语言模型的长上下文解码。该方法已在覆盖4B至397B参数的6款混合模型上完成测试,并在21个长上下文数据集上保持了基线准确率。性能测试结果显示,在64k和256k token的长上下文解码场景下,Qwen3.5-4B的解码速度分别提升了1.26倍与2.22倍,Ornith-1.0-397B分别提速1.16倍与2.06倍。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. arXiv 自然语言处理
    无需重训练加速大规模混合大语言模型长上下文解码

    研究提出一种免重训练的组合稀疏注意力方法,无需改变模型权重即可加速大规模混合大语言模型的长上下文解码。该方法在覆盖 4B 至 397B 参数的 6 款混合模型上完成测试,在 21 个长上下文数据集上保持了基线准确率。在 64k/256k token 解码时,Qwen3.5-4B 提速达 1.26x/2.22x,Ornith-1.0-397B 提速达 1.16x/2.06x。

本事件热度走势

当前热度 9·可比范围峰值 10(11月5日 14:00)·近 24 小时可比范围变化–

02.557.51011月5日14:0011月5日15:0011月5日16:0011月5日17:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。