arXiv 机器学习· Kevin Dick, Katie Lonsway·· 11 小时前AI 评分36
ExaTune:大规模穷举超参数景观探索
ExaTune: Exhaustive Hyperparameter Landscape Exploration at Scale
AI 导读
开源 HPC 系统 ExaTune 推出,通过穷举评估超参数网格构建超参数景观图,并引入五项形式化景观指标。团队在 HuggingFace 发布包含 8 个景观图、共 285,080 个配置的基准集,涵盖 XGBoost 等 5 种模型族。实证分析表明,Optuna 与 Hyperband 等方法在标准预算下会系统性遗漏不稳定性区域及参数交互效应。
来源:arXiv 机器学习 · arxiv.org