Hugging Face Blog·AI 评分38
Hugging Face 推出约束感知 GPU 分配器:同集群利用率最高提升 33 个百分点
Same Cluster, 33 Points More Utilization: What Changed Was the Order
AI 导读
Hugging Face 构建了约束感知的 GPU 分配器,在七个基准场景中与 FIFO 调度器对比,相同硬件与负载下 GPU 利用率最高提升 33 个百分点,优先级加权产出在每个场景均有提升,最高达 105%。在五个真实争用场景中,利用率从 52–85% 提升至 72–88%,优先级加权价值提升 24.6% 至 105.1%,平均 52%。
来源:Hugging Face Blog · huggingface.co