跳到正文
Hugging Face Blog·· 13 小时前精选AI 评分62

PyTorch 2.15 发布:MPS 后端迎来 FP8、大模型解码加速与 Metal 内核升级

MPS in PyTorch 2.15

AI 导读

PyTorch 2.15 针对 Mac 的 MPS 后端带来多项重要更新,包括引入 FP8 支持、通过专用 Metal 内核大幅提升混合专家(MoE)与稠密大模型的解码速度、优化线性代数运算,并将视频解码的显存峰值大幅降低。新版本要求 macOS 15 及以上系统和 Python 3.11 及以上版本。

推荐理由

原文详细梳理了 PyTorch 2.15 在 Mac MPS 上的核心更新与性能表现,对于在 Apple Silicon 上进行模型推理和训练的开发者具有参考价值。

来源:Hugging Face Blog · huggingface.co