跳到正文
原文
Hugging Face·· 2 小时前精选AI 评分67

Ai2 改造 GPU 集群调度架构:引入时间预算与分片契约解决资源争抢

Impactful scheduling for GPU clusters

AI 导读

Ai2 基础设施团队将其 GPU 集群调度器改造为基于时间预算、层级公平份额与调度契约的全新系统,以解决多团队争抢算力时的占坑与优先级膨胀问题。新方案通过设定最小运行时保障和自动时间分片,在集群占用率保持 98% 的同时,将调试作业 p90 排队时间从 2 小时缩短至 30 秒。此外,不健康节点的自动排空机制使需要人工介入的运维修复工作减少了 74%。

推荐理由

文章详细复盘了大规模 GPU 集群中解决占坑与优先级通胀的调度改造方案,提供了可迁移的预算分片设计经验。

来源:Hugging Face · huggingface.co