热点事件持续更新
研究揭示推测解码中目标模型概率复用机制
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
2026年10月22日,arXiv发布了一篇关于推测解码中目标模型概率复用的研究。该研究探讨了在推测解码过程中,目标模型输出的下一个 token 分布能否用于选择下一轮草稿树(draft tree)。在 6 个目标模型上的实验结果显示,利用当前上下文单独计算得到的分布对首个 token 分支进行重排序,能够在小树预算条件下提升预期接受率;同时,直接在此分布下抽取首个 token 的表现优于对预选树进行剪枝。
AI 根据报道生成 · 1 小时前更新
最新进展10月22日 12:00
研究发现在推测解码中利用目标模型分布重排序首分支可提升小树预算接受率。报道时间线
沿着报道,了解事件的不同侧面。
10月22日
- arXiv 自然语言处理理解推测解码中的目标模型概率复用
研究探讨了推测解码中目标模型输出的下一个 token 分布能否用于选择下一轮 draft tree。在 6 个目标模型上的实验表明,利用当前上下文单独计算的分布对首个 token 分支重排序,能在小树预算下提升预期接受率,且在此分布下抽取首个 token 比剪枝预选树表现更好。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。