谷歌开源 TorchTPU 框架以支持 TPU 运行 PyTorch 应用

IT之家 10 月 21 日消息，谷歌于当地时间周二宣布，面向谷歌 TPU 的原生 PyTorch 框架 TorchTPU 现已在 GitHub 上开源。借此，谷歌与亚马逊一同尝试打破英伟达在人工智能行业的垄断。目前绝大多数人工智能应用默认都是基于英伟达芯片，也就是图形处理器（GPU）开发运行。

PyTorch 是一款热门开源工具库，人工智能应用开发者与初创企业依靠它搭建、训练和部署人工智能模型。有统计称，85% 的人工智能应用都在使用 PyTorch。PyTorch 最初由 Meta 在 2016 年开发，那时人们还完全没有意识到大语言模型将会改变世界。当时英伟达 GPU 已经是人工智能研究的标准硬件，因此 PyTorch 的诸多功能都是专门为适配英伟达 GPU 打造。2022 年，Meta 将 PyTorch 移交至 Linux 基金会，这家非营利机构负责管理许多重要的开源项目。

谷歌推出的 TorchTPU，能够让人工智能应用在谷歌自研人工智能芯片张量处理单元（TPU）上运行。它还可以便捷地将现有的 PyTorch 应用迁移到 TPU，进而迁移到谷歌云。开发者仅需简单修改配置，无需重写应用代码即可完成迁移。

亚马逊在当地时间周一发布了类似消息，推出自家的 PyTorch 版本 TorchNeuron。TorchNeuron 可以在无需重写代码的情况下，把人工智能应用移植到亚马逊自研芯片 Trainium 以及亚马逊云（AWS）。亚马逊还表示，将进一步削弱英伟达对 PyTorch 的掌控力。其正在向 PyTorch 主项目提交代码，把各类功能与英伟达芯片解耦，让 PyTorch 原生就能兼容各类硬件。

不过IT之家注意到，谷歌在部分方面的举措力度或许超过亚马逊。谷歌称，其直接联合 Meta、Hugging Face、英菲拉克特（Inferact，vLLM 开发方）、拉迪克斯阿克（RadixArk，SGLang 开发方）等多方合作，保证 TorchTPU 的功能与代码库能够像原版 PyTorch 一样，和这些主流人工智能开发工具良好兼容。

除此之外，这家搜索巨头推出了专用工具 TPU 智能体套件，帮助开发者把应用迁移到谷歌芯片与云平台，并在迁移过程中排查修复错误。谷歌还升级了广受使用的 LiteRT 工具，该工具用于在手机、笔记本电脑和嵌入式设备上运行人工智能模型，升级后可以更好地支持基于 PyTorch 开发的人工智能应用。

以上这些进展，并不代表人工智能应用开发者会仅仅因为可以便捷迁移到其他芯片与云平台，就集体放弃英伟达硬件。但亚马逊和谷歌显然正在努力终结英伟达的优势地位。