LLM 数学能力迁移更依赖推理方法而非主题

大语言模型在数学微调中的迁移效果更依赖解题推理方法而非学科主题。在 5 个基座模型的 40 项对比中，共享推理方法的训练数据表现全面优于共享主题的数据，在两项实验中分别取得平均 10.8 与 14.3 个百分点的模型级优势。尽管同主题数据在嵌入向量与词汇上与目标更相似，但推理方法被证实是更有效的数据匹配标准。