Hugging Face·· 15 days agoSelectedAI score77
PyTorch 2.15 升级 Mac MPS 后端：支持 FP8 并大幅优化 MoE 解码与视频生成
MPS in PyTorch 2.15
Not yet translated; shown in Chinese.
AI guide
PyTorch 2.15 对苹果芯片的 MPS 后端进行重构，新增 FP8 数据类型支持，并通过专用 Metal 算子替代 MPSGraph 大幅优化大语言模型解码与多模态负载。
Why it matters
原文详细展示了通过专用 Metal 算子替代图编译器来解决苹果芯片显存暴涨与算力瓶颈的具体路径，可供端侧优化参考。
Source:Hugging Face · huggingface.co