跳到正文
原文
arXiv 人工智能· Zhiming Meng·· 7 小时前AI 评分45

投机解码接受率不随位置衰减:长链式推理与独立草稿模型全长诊断

Speculative Acceptance Does Not Decay with Position: A Full-Length Diagnostic on Long Chain-of-Thought with Independent Drafts

AI 导读

针对 DeepSeek-R1-Distill-Qwen-7B 的长链式推理全长诊断发现,投机解码接受率在贪婪(0-8k)与采样(0-12k)模式下均未随生成位置衰减。基于 MATH-500 的约 1.78M 轮独立草稿验证显示,各轨迹后半段接受率略高于前半段,拒绝主要集中在“wait”等高熵反思 token,证明失败源于决策点熵值而非位置。

来源:arXiv 人工智能 · arxiv.org