arXiv 自然语言处理· Esther Xin·· 10 小时前AI 评分56
研究发现大模型对思维链依赖度随规模提升，且与后训练无关
Does Chain-of-Thought Reliance Follow a Scaling Law?Larger Models Follow Their Steps More, Independent of Post-Training
AI 导读
arXiv 论文评估了 25 款开源大模型，发现模型对思维链的真实依赖度随参数规模增大而提升并趋于饱和。在换箱任务中篡改单步状态测试显示，Qwen3 的答案依赖度从 0.6B 的 16-18% 跃升至 14B 的 97-100%，Gemma 3 与 Llama 3 也遵循该趋势。研究表明模型能力是主要驱动力且后训练几乎不改变依赖度，在需要逐步计算的任务中更大规模让思维链更具承重性。
来源：arXiv 自然语言处理 · arxiv.org