组合式自我改进：前景与局限

新研究系统评估了利用子问题预测合成监督的“组合式自我改进”方法，指出其能扩展模型能力但存在三大失效模式。受控实验发现该方法受限于子问题预测不可靠、组合引入错误及监督覆盖有限，但在代码与推理任务中生成的标签仍比直接自生成更准确。此外，简短的组合式 SFT 预热可有效引导强化学习，在直接探索难以成功的复合技能任务中发挥作用。