Hugging Face 介绍 PyTorch 2.15 MPS 改进
热点事件历史事件
Hugging Face 介绍 PyTorch 2.15 MPS 改进
1 篇报道1 个报道来源11 天前更新
先了解这件事
AI 综述
Hugging Face 发布博客介绍 PyTorch 2.15 的 MPS 后端改进:新增 FP8 张量支持,MoE 模型解码速度比 2.14 快 5–6.5 倍。博客称 Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 tokens/s 提升到 61.3 tokens/s。 这些改进面向搭载 Apple silicon、运行 macOS 15 及以上版本并使用 Python 3.11 及以上版本的 Mac。Hugging Face 表示,部分改动已进入 main 分支和 nightly 版本,另一些仍在评审中,正式发布前细节可能变化。
AI 根据报道生成 · 11 天前更新
最新进展10月20日 08:00
PyTorch 2.15 为 MPS 后端带来 FP8 与更快的 LLM 解码报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- Hugging Face Blog精选PyTorch 2.15 为 MPS 后端带来 FP8 与更快的 LLM 解码
PyTorch 2.15 在 MPS 后端加入 FP8 张量支持,并让 MoE 模型解码比 2.14 快 5–6.5 倍,Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 tokens/s 提升到 61.3 tokens/s。