研究提出投机解码优化损失族TVP
Start here
2026年11月3日，研究人员在 arXiv 发布论文，提出针对推测解码的 TVP 损失函数族。该方法基于期望接受长度与全变差（TV）距离来优化草稿模型。为解决 TV 存在的梯度消失等问题，TVP 通过引入幂参数在覆盖率与接受率目标之间进行插值。实验结果显示，TVP 在 3 种草稿架构和 3 种目标模型上均取得了最高或并列最高的接受长度；在微调场景下，TVP 相比交叉熵损失（CE）将接受长度提升了 9.8%，较 DFlash2 提升了 6.2% 至 12.9%。
AI-generated from reports · Updated 10 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 机器学习TVP：推测解码中 TV 几乎就是全部所需
研究人员提出针对推测解码的 TVP 损失函数族，基于期望接受长度与全变差（TV）距离优化草稿模型。针对 TV 梯度消失等问题，TVP 通过幂参数在覆盖率与接受率目标间插值，在 3 种草稿架构和 3 种目标模型上均取得最高或并列最高接受长度。微调时 TVP 相比 CE 将接受长度提升 9.8%，较 DFlash2 提升 6.2% 至 12.9%。
Story heat trend
Current heat 7·Comparable peak 9（Nov 3 18:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.