跳到正文
热点事件持续更新

Ai2以时间预算重做GPU调度

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Ai2用GPU时间预算、层级公平共享分配和时间切片合约,替换了基于优先级的GPU集群调度器;Ai2称,在研究需求为供给2至3倍的情况下,系统仍维持98%的集群占用率。 在30天测试中,Ai2称团队获得了应得GPU时数的98%,调试工作负载的第90百分位排队时间从2小时降至30秒,人工参与的维修减少74%。该调度器按默认7天的滑动窗口跟踪占用情况,并支持设置任务的最低运行时长。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. Hugging Face Blog精选
    Ai2 如何用 GPU 时间预算提升集群调度效果

    Ai2 用 GPU 时间预算、层级 fair-share 和时间切片合约替代基于优先级的调度器,在研究需求超过供给 2-3x 的情况下维持了 98% 的集群占用率。30 天测试中,团队获得应得 GPU 时数的 98%,调试工作负载的 p90 排队时间从 2 小时降至 30 秒,人工参与的维修减少 74%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。