演化策略悖论：从更差的扰动中获得更好的模型

论文揭示了演化策略（ES）微调大语言模型（LLM）中的悖论现象：所有扰动子代模型的表现均持续劣于父代，但父代模型本身却在训练中持续提升。研究表明高维空间中的扰动探索虽导致局部性能变差，但仍能指示有效方向，聚合这些方向即可实现优化。该机制跨模态与任务普遍存在，为基于扰动的数十亿参数 LLM 微调提供了指导。