AWS 与 Google Cloud 开源 PyTorch 的 Trainium、TPU 适配版…

Google Ad Server设置

Simple Analytics占位事件函数

页眉结束

superbanner /3002452/Pbk_Rect1_300x300结束

/3002452/Pbk_Rect2_300x250

AWS与Google Cloud开源发布支持AWS Trainium、Google Cloud TPU的“PyTorch”版本，挑战从NVIDIA迁移 2026年10月27日

在10月20日和21日于美国加利福尼亚州举行的“PyTorch Conference 2026”活动上，AWS和Google Cloud相继宣布将各自AI处理器对应的PyTorch版本作为开源软件发布。

AWS以公开测试版形式发布的是支持AWS Trainium的“TorchNeuron”，Google Cloud发布的是支持Google Cloud TPU的“TorchTPU”。

TorchNeuron现已开源。我们新的@PyTorch后端可将代码转换为可在AWS Trainium上执行的操作，且几乎无需或完全无需修改代码。了解团队如何利用AI代理和数十万个模型对其进行验证：https://t.co/czPvqSPAcR——Amazon Science（@AmazonScience）2026年10月23日

对@PyTorch生态系统而言，这是#PyTorchConf2026上的重要一天

我们正式开源TorchTPU——实现跨Cloud TPU和自定义基础设施的原生、硬件加速的PyTorch执行。

以下是我们为加速您的训练和推理工作负载而发布的所有内容 https://t.co/1X5A5bhG0z——Google Cloud Tech（@GoogleCloudTech）2026年10月21日

TorchNeuron和TorchTPU此前均已公布，并以私有测试版或私有预览版的形式提供给部分用户。

此次它们作为开源软件发布，使任何人都可以使用。

PyTorch在NVIDIA CUDA上运行事实上已成为标准

PyTorch是用Python开发的开源机器学习框架，被广泛应用于机器学习、AI、大语言模型（LLM）的研究与开发等领域。

Linux Foundation 2024年的调查显示，在AI相关的研究与开发中，超过70%使用了PyTorch，可见其在该领域的重要地位。

PyTorch是既可在CPU也可在GPU上运行的框架，但实际上在NVIDIA GPU的通用计算基础软件“CUDA”上运行已成为事实上的标准。

因此，PyTorch及许多相关软件都被设计为能在CUDA上发挥最大性能。

使PyTorch可在Trainium、TPU上原生运行

在此背景下，AWS自主研发了作为AI处理器的AWS Trainium，Google Cloud自主研发了TPU，并致力于适配事实上为CUDA而开发的各种软件。

对于PyTorch，他们也一直在改进和完善用于转换为可在AWS Trainium、Google Cloud TPU等处理器上执行格式的编译基础“XLA”等，但在实现充分兼容性和性能等方面仍存在问题。

此次发布的TorchNeuron和TorchTPU是这些工作的延伸，两者均说明PyTorch可在各自的专有AI处理器上原生运行，即以能充分发挥处理器性能的形式运行，且为此进行的移植也很简单，与以往相比在兼容性和速度方面均有大幅改善。

例如，AWS的TorchNeuron是这样说明的。

使用TorchNeuron，开发者可以在保持与eager execution、torch.compile以及标准PyTorch API完全兼容的同时，只需切换到.to('neuron')，即可在Trainium上启用PyTorch代码。此外，TorchNeuron还与Neuron Kernel Interface（NKI）集成，从而可以使用自定义算子并针对Trainium硬件进行性能优化。

另一方面，Google Cloud对TorchTPU的说明如下。

它实现了开箱即用的无缝模型执行和TPU迁移，同时通过eager execution优化、torch.compile集成和原生硬件加速，提供具有行业竞争力的推理和训练性能。

通过导入后即可立即执行AI模型的无缝TPU迁移，借助积极的运行时优化、torch.compile集成、硬件原生加速等，实现与竞争对手相比毫不逊色的高性能推理和训练。

随着TorchNeuron和TorchTPU的问世，预计在AWS Trainium和Google Cloud TPU上使用PyTorch的门槛将比以往低得多。

特别是，如果与PyTorch标准API和执行模型的兼容性提高，能够在不大量改写现有代码的情况下完成迁移，开发者就更容易考虑NVIDIA GPU以外的选择。

不过，AI处理器的选择并非仅取决于模型能否运行。与现有库和工具的兼容性、实际训练和推理的性能、成本，以及从开发到运维的易用性等多种因素都与之相关。

TorchNeuron和TorchTPU的开源，将为以CUDA为中心发展起来的AI开发生态系统带来多大变化？今后，随着对应模型和软件的扩展，在实际工作负载中能实现多大程度的兼容性和性能将备受关注。

AWS 与 Google Cloud 开源 PyTorch 的 Trainium、TPU 适配版…

推荐理由

主题

标签

正文 · AI 翻译