本文へスキップ
ホットトピック継続更新中

研究者提出MLI优化DeepSeek长上下文解码

1 件の報道1 件の報道元10 時間前 更新

まずこの件を把握する

AI 概要

2026年11月4日,研究者在arXiv发表论文,提出名为Multi-layer Indexer(MLI)的技术,旨在加速DeepSeek-V3.2与GLM-5的长上下文解码。该技术通过并发重叠索引器扫描与注意力计算来优化稀疏注意力推理,无需对模型进行重新训练,且可直接在SGLang框架上运行。测试数据显示,在128K上下文长度下,MLI实现了原模型1.32倍的解码吞吐量,解码速度相比IndexCache最高提升14.5%。

AI が報道をもとに生成 · 9 時間前 更新

報道タイムライン

報道をたどり、出来事のさまざまな側面を知る。

11月4日
  1. arXiv 机器学习
    Multi-layer Indexer:在 DeepSeek 稀疏注意力中重叠选择与注意力计算

    研究者提出 Multi-layer Indexer(MLI),通过并发重叠索引器扫描与注意力计算,加速 DeepSeek-V3.2 与 GLM-5 的长上下文解码。MLI 无需重新训练且可在 SGLang 运行,在 128K 上下文下实现原模型 1.32x 的解码吞吐量,解码速度较 IndexCache 提升最高 14.5%。

このストーリーのホット度の推移

現在のホット度 8·比較可能範囲のピーク 10(11月4日 14:00)·直近24時間の比較可能な変化–

02.557.51011月4日14:0011月4日17:0011月4日19:0011月4日22:00

トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。