PyTorch 2.15 为 Mac MPS 后端带来 FP8 支持与 MoE 解码 5–6.5 倍提速
MPS in PyTorch 2.15
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Hugging Face PyTorch 团队介绍 PyTorch 2.15 的 MPS 后端更新:新增 torch.float8_e4m3fn FP8 张量与 F.scaled_mm。
推荐理由
官方团队详列 MPS 在 LLM 解码、FP8 和视频显存上的具体改动与数字,Mac 用户可据此评估是否升级。
来源:Hugging Face Blog · huggingface.co