arXiv 人工智能· Roberto Dailey, Kajetan Schweighofer, Jamieson Warner, Conor F. Hayes, Elliot Meyerson, Babak Hodjat, Risto Miikkulainen, Xin Qiu·· 11 時間前AI スコア42
演化策略悖论：从更差的扰动中获得更好的模型
The Evolution Strategies Paradox: Better Models from Worse Perturbations
未翻訳のため中国語で表示しています。
AI ガイド
论文揭示了演化策略（ES）微调大语言模型（LLM）中的悖论现象：所有扰动子代模型的表现均持续劣于父代，但父代模型本身却在训练中持续提升。研究表明高维空间中的扰动探索虽导致局部性能变差，但仍能指示有效方向，聚合这些方向即可实现优化。该机制跨模态与任务普遍存在，为基于扰动的数十亿参数 LLM 微调提供了指导。
出典：arXiv 人工智能 · arxiv.org