研究者提出MLI优化DeepSeek长上下文解码
Start here
2026年11月4日，研究者在arXiv发表论文，提出名为Multi-layer Indexer（MLI）的技术，旨在加速DeepSeek-V3.2与GLM-5的长上下文解码。该技术通过并发重叠索引器扫描与注意力计算来优化稀疏注意力推理，无需对模型进行重新训练，且可直接在SGLang框架上运行。测试数据显示，在128K上下文长度下，MLI实现了原模型1.32倍的解码吞吐量，解码速度相比IndexCache最高提升14.5%。
AI-generated from reports · Updated 7 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 机器学习Multi-layer Indexer：在 DeepSeek 稀疏注意力中重叠选择与注意力计算
研究者提出 Multi-layer Indexer（MLI），通过并发重叠索引器扫描与注意力计算，加速 DeepSeek-V3.2 与 GLM-5 的长上下文解码。MLI 无需重新训练且可在 SGLang 运行，在 128K 上下文下实现原模型 1.32x 的解码吞吐量，解码速度较 IndexCache 提升最高 14.5%。
Story heat trend
Current heat 8·Comparable peak 10（Nov 4 14:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.