Google 开源 TorchTPU，与 Amazon 先后挑战 Nvidia 在 PyTorch 生态的主导地位

周二，Google 宣布，其期待已久的 PyTorch 版本 TorchTPU 现已作为开源项目发布。由此，Google 加入了 Amazon 的行列，试图打破 Nvidia 在 AI 行业的垄断——目前大多数 AI 应用默认都是为在 Nvidia 的芯片（即 GPU）上运行而编写的。

PyTorch 是广受欢迎的开源工具包，AI 应用开发者和初创公司用它来构建、训练和运行 AI 模型。据某些统计，85% 的 AI 应用都在使用它。PyTorch 最初由 Meta（当时的 Facebook）于 2016 年开发，远早于世人察觉 LLM 将改变世界之时。当时，Nvidia 的 GPU 已经是 AI 研究的标准硬件，因此 PyTorch 的许多功能都是专门为其打造的。2022 年，Meta 将 PyTorch 移交给了 Linux 基金会——一家管理着许多重要开源项目的非营利组织。

Google 的版本 TorchTPU 让 AI 应用可以运行在 Google 的 AI 芯片——张量处理单元（TPU）上。它还能轻松将现有的 PyTorch 应用迁移到 TPU，进而迁移到 Google Cloud。开发者只需修改一个简单的配置，无需重写应用即可完成迁移。

Amazon 在周一发布了类似的公告，推出了自家的 PyTorch 版本，名为 TorchNeuron。TorchNeuron 允许 AI 应用无需重写即可移植到 Amazon 自研的 AI 芯片 Trainium，并迁移到 AWS。Amazon 还表示，将进一步努力削弱 Nvidia 对 PyTorch 的掌控：它正在向 PyTorch 主项目提交代码，将各项功能与 Nvidia 的芯片解耦，使其在默认情况下对任何硬件都更加开放。

不过，Google 可能在几个方面略胜 Amazon 一筹。它表示与 Meta、Hugging Face、Inferact（vLLM 的开发商）、RadixArk（SGLang 的开发商）等直接合作，确保 TorchTPU 的功能和代码库与这些流行的 AI 开发工具良好兼容，就像原版 PyTorch 一样。

此外，这家搜索巨头还推出了专用工具 TPU agent suite，帮助开发者将应用迁移到 Google 的芯片和云平台，并在此过程中修复错误。它甚至还更新了流行的 LiteRT 工具（用于在手机、笔记本电脑和嵌入式设备上运行 AI），使其能更好地支持 PyTorch AI 应用。

这一切并不意味着 AI 应用开发者会因为现在可以轻松迁移到其他芯片和云平台，就自动大规模抛弃 Nvidia 的硬件。但 Amazon 和 Google 显然正在努力终结 Nvidia 的优势。

当您通过我们文章中的链接购买时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。

Julie Bort 是 TechCrunch 的初创公司/风投板块编辑。

您可以通过电子邮件 [email protected] 联系 Julie 或核实其外联信息，也可以在 X 上通过 @Julie188 联系她。

查看简介