Hugging Face·· 14 日前厳選AI スコア77
PyTorch 2.15 升级 Mac MPS 后端:支持 FP8 并大幅优化 MoE 解码与视频生成
MPS in PyTorch 2.15
未翻訳のため中国語で表示しています。
AI ガイド
PyTorch 2.15 对苹果芯片的 MPS 后端进行重构,新增 FP8 数据类型支持,并通过专用 Metal 算子替代 MPSGraph 大幅优化大语言模型解码与多模态负载。
推薦理由
原文详细展示了通过专用 Metal 算子替代图编译器来解决苹果芯片显存暴涨与算力瓶颈的具体路径,可供端侧优化参考。
出典:Hugging Face · huggingface.co