跳到正文
Hugging Face Blog·· 13 小时前精选AI 评分61

PyTorch 2.15 的 MPS 更新:支持 FP8,加速模型解码并降低视频内存占用

MPS in PyTorch 2.15

AI 导读

PyTorch 2.15 为 Mac 的 MPS 后端加入 FP8 支持,并通过专用 Metal 内核加速语言模型解码、降低视频解码内存占用。

推荐理由

通过解码吞吐和视频显存占用的具体对比,展示将算子从 MPSGraph 迁至 Metal 内核对 Mac 本地运行模型的影响。

来源:Hugging Face Blog · huggingface.co