Hugging Face Blog·· 1 天前AI 评分53
PyTorch 2.15 发布:MPS 后端支持 FP8,LLM 解码与视频内存大幅优化
MPS in PyTorch 2.15
AI 导读
PyTorch 2.15 将 FP8 引入 Mac 的 MPS 后端,MoE 模型在 M3 Ultra 上的解码速度提升 5–6.5×,Qwen3.6-35B-A3B 从 9.4 提升至 61.3 tokens/s。
来源:Hugging Face Blog · huggingface.co
MPS in PyTorch 2.15
PyTorch 2.15 将 FP8 引入 Mac 的 MPS 后端,MoE 模型在 M3 Ultra 上的解码速度提升 5–6.5×,Qwen3.6-35B-A3B 从 9.4 提升至 61.3 tokens/s。
来源:Hugging Face Blog · huggingface.co