跳到正文
热点事件历史事件

Hugging Face 原生接入 TorchTPU

1 篇报道1 个报道来源11 天前更新

先了解这件事

AI 综述

Hugging Face 宣布接入原生 PyTorch TPU 后端 TorchTPU,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,不再需要 Optimum TPU。 据其博客,在 TPU VM 上安装只需一条命令 pip install torch-tpu --extra-index-url https://download.pytorch.org/whl/cpu,该索引提供 torch 的 CPU 构建;加载模型时传入 device_map="tpu" 或 pipe.to("tpu")。Hugging Face 称,在 TPU 上运行的测试中 96.5% 通过。

AI 根据报道生成 · 10 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. Hugging Face Blog
    Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU

    Hugging Face 宣布接入原生 PyTorch TPU 后端 TorchTPU,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,模型通过 device_map="tpu" 或 pipe.to("tpu") 加载,不再需要 Optimum TPU。