据SiliconANGLE报道,谷歌(Google)10月21日推出TorchTPU,这是开源PyTorch框架的一个专用版本,目标是让开发者更容易把AI模型和应用运行在谷歌的张量处理单元(TPU)上,从而削弱英伟达(Nvidia)GPU依靠软件生态形成的锁定优势。

PyTorch是开发者创建、训练和运行AI模型及神经网络的常用开源工具包。报道援引部分统计称,超过85%的AI应用使用PyTorch构建。该框架由Meta于2016年创建,当时英伟达GPU已是AI研究常用的硬件,因此PyTorch被设计为与英伟达芯片配合使用。Meta在2022年将PyTorch开源后,项目交由非营利组织Linux基金会管理,但对英伟达硬件的侧重延续至今。

TorchTPU提供了PyTorch的替代版本,使开发者能够更方便地创建可在TPU上运行的模型和应用。谷歌表示,开发者只需调整少量配置,就能把现有应用和模型迁移到TPU上运行,无需重写底层代码。TPU是谷歌为AI工作负载设计的专用芯片。

谷歌并非唯一试图改变PyTorch与英伟达GPU紧密绑定局面的公司。就在本周早些时候,亚马逊云科技(AWS)发布了名为TorchNeuron的PyTorch版本,便于AI应用在亚马逊Trainum芯片上运行。AWS还向原版PyTorch项目贡献代码,将部分关键功能与英伟达GPU解耦,以提升对不同硬件的兼容性。谷歌没有采取同样的上游贡献做法。

谷歌称,它与Meta、Hugging Face以及vLLM和SGLang的开发商Inferact、RadixArk密切合作,确保TorchTPU的多项功能和代码库能兼容这些开发者的工具。谷歌还发布名为TPU agent suite的新工具,帮助开发者把AI应用迁移到谷歌云平台,并自动修复迁移过程中出现的错误。此外,谷歌更新了用于在智能手机、笔记本电脑和嵌入式设备上直接构建AI应用的LiteRT工具,称其现在可兼容基于PyTorch的应用。

报道称,这些举措不足以让数百万开发者立即放弃英伟达GPU并转向谷歌TPU,但显示谷歌有信心在较长时期内逐步削弱英伟达的领先地位。