研究揭示分词切分控制早退大模型词内计算分配

1. 13:00
   arXiv 自然语言处理

   Token 并非难度单位：分词控制词内自适应计算的分配

   研究表明分词切分方式控制着早退大语言模型在词内部的自适应计算分配。在千问（Qwen3）等模型中，置信度停止机制在英语中分配给词后续片段的计算少于首个片段，而在孟加拉语中恰恰相反，词内惊奇度解释了 75% 的差距方差。此外，学习型停止头虽优于置信度停止 7 到 8 点，但在同等成本下相较最佳固定退出组合提升不足 1 点。

Current heat 7·Comparable peak 9（Nov 3 18:00）·Comparable change, last 24 hours–

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.