理解推测解码中的目标模型概率复用

研究探讨了推测解码中目标模型输出的下一个 token 分布能否用于选择下一轮 draft tree。在 6 个目标模型上的实验表明，利用当前上下文单独计算的分布对首个 token 分支重排序，能在小树预算下提升预期接受率，且在此分布下抽取首个 token 比剪枝预选树表现更好。