跳到正文
Hugging Face Blog·· 2 小时前精选AI 评分67

Ai2 如何用 GPU 时间预算提升集群调度效果

Impactful scheduling for GPU clusters

AI 导读

Ai2 用 GPU 时间预算、层级 fair-share 和时间切片合约替代基于优先级的调度器,在研究需求超过供给 2-3x 的情况下维持了 98% 的集群占用率。30 天测试中,团队获得应得 GPU 时数的 98%,调试工作负载的 p90 排队时间从 2 小时降至 30 秒,人工参与的维修减少 74%。

推荐理由

文章把 GPU 时间预算、层级 fair-share 与时间切片如何协同解决资源争抢讲清楚,并用 30 天数据展示调度效果与运维收益。

来源:Hugging Face Blog · huggingface.co