arXiv 人工智能· Hossein Askari, Wei Sun, Chenguang Zhu, Bin Zan, Sreen Tallam, Keyu Man·· 16 小时前AI 评分49
LEAP：面向生产训练集群硬件选择的学习型吞吐量预测系统
Look Before You Launch: Learned Throughput Prediction for Hardware Selection in a Production Training Fleet
AI 导读
机器学习性能预测服务 LEAP 可在作业提交时预测各候选硬件类型的吞吐量，并按单位成本吞吐量排序以优化硬件路由选择。LEAP 每天跨 20 多种硬件类型路由数万次训练作业，经 30 次夜间重训后准确率达 77%，表现优于查表法与微调语言模型。在上线 6 个月内，其覆盖的训练 GPU-hours 比例提升至 95%，预估节省约 3% 的训练计算成本。
来源：arXiv 人工智能 · arxiv.org