热点事件持续更新
研究团队提出分布式投机解码框架DISCO
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月28日，arXiv公布了一项针对分布式大语言模型推理的研究，研究人员提出了名为DISCO的分布式投机解码框架，用于优化端云协作推理。DISCO通过在服务端引入草稿小语言模型（SLM）副本并在本地获取分布，使得设备与服务器之间仅需传输草稿token索引和标量概率值，从而消除了原有的词表级分布传输。多数据集实验结果表明，该方法在严格保留目标分布的前提下，能够在严苛的带宽限制环境下实现更高的解码加速比。
AI 根据报道生成 · 3 小时前更新
最新进展10月28日 12:00
研究团队提出DISCO框架，通过在服务端部署草稿模型副本消除词表分布传输，提升严苛带宽下的推理加速比。报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv 机器学习基于通信高效投机解码的分布式大语言模型推理
研究人员提出分布式投机解码框架 DISCO，用于端云协作的大语言模型推理并消除了词表级分布传输。DISCO 在服务端引入草稿小语言模型（SLM）副本以在本地获取分布，使设备与服务器间仅需传输草稿 token 索引和标量概率值。多数据集实验表明，该方法严格保留了目标分布，在严苛带宽限制下实现了更高的解码加速比。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。