热点事件观察中
研究团队提出Packed-SS单次调用自推测解码方案
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
2026年10月,研究团队在arXiv发布论文,提出名为Packed-SS的自推测解码方案。该方案基于扩散起草器并使其超前一次调用,实现了在单次模型调用中同时完成验证与起草,不仅使输入尺寸随推测宽度呈线性增长,还保持了目标模型分布不变。在贪婪解码设置下,Packed-SS所需的模型调用次数不高于传统双调用模式。在Nemotron 3B/8B以及SetDLM 1.7B上的实验表明,Packed-SS有效取得了更高的吞吐量和更低的平均耗时。
AI 根据报道生成 · 3 小时前更新
最新进展10月27日 12:00
研究者提出Packed-SS自推测解码方案,单次调用即可完成验证与起草。报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv 机器学习Packed-SS:基于扩散起草的单次调用自推测解码
研究者提出自推测解码方案 Packed-SS,通过让扩散起草器超前一次调用,在单次模型调用中同时完成验证与起草,使输入尺寸随推测宽度呈线性增长并保持目标模型分布不变。该方案在贪婪解码设置下所需的模型调用次数不高于传统双调用模式。在 Nemotron 3B/8B 和 SetDLM 1.7B 上的实验表明,Packed-SS 取得了更高的吞吐量与更低的平均耗时。
本事件热度走势
当前热度 5·可比范围峰值 5(10月28日 11:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。