Hugging Face Blog·· 13 小时前精选AI 评分61
PyTorch 2.15 的 MPS 更新:支持 FP8,加速模型解码并降低视频内存占用
MPS in PyTorch 2.15
AI 导读
PyTorch 2.15 为 Mac 的 MPS 后端加入 FP8 支持,并通过专用 Metal 内核加速语言模型解码、降低视频解码内存占用。
推荐理由
通过解码吞吐和视频显存占用的具体对比,展示将算子从 MPSGraph 迁至 Metal 内核对 Mac 本地运行模型的影响。
来源:Hugging Face Blog · huggingface.co