arXiv 人工智能· Jingwei Ni, Dmitry Abulkhanov, Vladislav Smirnov, Markus Leippold, Elliott Ash, Timothy Baldwin, Artem Shelmanov, Mrinmaya Sachan·· 7 小时前AI 评分44
BELT：通过可复用表征实现大语言模型推理早停
Same Beliefs, Different Policies: Learning Reusable Representations for Early Stopping in LLM Reasoning
AI 导读
研究人员提出基于信念终止的早停机制 BELT，将结果预测与停止控制解耦以减少推理大语言模型的计算浪费。在 5 个 OOD 数学基准测试中，BELT 在不损失准确率的情况下，使 Qwen3-1.7B 生成的 token 减少 41%，使 OLMo-3-7B-Think 减少 51%。
来源：arXiv 人工智能 · arxiv.org