公告博客 PyTorch 大会北美 2026:共同加速开放智能 作者: PyTorch 基金会2026年10月22日暂无评论 /row

PyTorch 大会北美 2026 于 10 月 20–21 日在圣何塞举行,吸引了 3,500 多名参会者,为期两天,聚焦加速开放智能,并探讨 PyTorch 基金会旗下项目(如 PyTorch、vLLM、DeepSpeed、Ray、Helion 和 Safetensors)所带来的影响。

PyTorch 基金会执行董事 Mark Collier 为整场活动定下基调,展示 PyTorch 基金会如何构建开源软件,以便在任何芯片、任何云、面向任何智能体训练和提供模型服务。

共同加速开放智能

Mark Collier 的开场主题演讲将研究、模型、框架、基础设施、硬件和生产环节的工作串联起来。第一天探讨了这些层面上的共同进步如何帮助社区更快地共同前进。第二天则展望了更广泛的硬件参与、工作负载向更多环境迁移,以及更大规模地训练和定制前沿模型。

PyTorch 生态系统近期取得的里程碑,凸显了 AI 本身如何加入学习循环,以改进代码、内核和研究工作流。会议期间及此前几天发布的公告和更新涵盖了以下工作。

Google TPU 上的原生 PyTorch

TorchTPU 是 Google 与 Meta 之间的开源合作项目,为 Google TPU 引入了原生且遵循原则的 PyTorch 后端。它支持即时执行和 torch.compile, 并已通过验证的集成覆盖 TorchTitan(用于训练)、vLLM 和 SGLang(用于推理)以及 Ray(用于编排)。工作负载迁移可能只需更改设备,而达到峰值性能则可能需要对形状、分片和操作进行额外更改。

阅读《Introducing TorchTPU》。

面向 AWS Trainium 的 TorchNeuron

TorchNeuron 是面向 AWS Trainium(以及相应的 Amazon EC2 实例:Trn2 和 Trn3)的开源原生 PyTorch 后端,使 AI 研究人员和从业者只需更改一项配置,即可试验和运行 PyTorch 工作负载。借助即时执行、torch.compile,以及对 PyTorch API(DTensor、torch.distributed)和 TorchTitan 等库的原生支持,TorchNeuron 可支持从研究实验到生产部署的工作流。该公开测试版于 10 月 20 日在 PyTorch 大会上以 Apache 2.0 许可证发布。

阅读《Introducing TorchNeuron》。

面向 IBM Spyre 和 AMD GPU 的编译器开发

IBM 的《From KTIR to SpyreCode》解释了 torch-spyre 如何将 Inductor 关于工作划分和张量放置的决策转换为可执行程序。一个开源 Dataflow Scheduler 会在设备特定阶段生成 SpyreCode 之前,为数据移动和计算构建流水线。10 月 21 日的 FlyDSL 更新还介绍了面向 AMD MI350 系列 GPU 的可选后端,通过现有 PyTorch API 将符合条件的操作连接到优化内核,同时为不受支持的工作负载保留现有实现。

阅读《From KTIR to SpyreCode》。

TorchTitan 与 TitanRL

TorchTitan 在其 5D 并行栈中扩展了模型支持,并通过 TitanRL 引入了强化学习。TitanRL 在预训练、后训练以及在 vLLM 内执行时保持相同的模型实现,支持异步 rollout,并为训练和生成提供多种并行形式。此次更新还涵盖了性能改进、FlexShard、基于图的训练、分布式通信和检查点。

阅读 TorchTitan 更新。

Helion 与 NVIDIA CompileIQ

Helion 与 NVIDIA CompileIQ 的集成将编译器控制项加入内核自动调优搜索。开发者可以在内核配置(如 tile 大小和 warp 数量)之外评估 Advanced Control Files,进行离线调优,并固定所选配置。编译器默认值仍是搜索中的一个候选。

阅读关于 Helion 与 NVIDIA CompileIQ 的内容。

Arm Cortex-M CPU 上的 ExecuTorch

ExecuTorch 现在提供了从 PyTorch 训练到设备端推理的直接路径。Cortex-M 后端使 PyTorch 模型能够在 Arm Cortex-M CPU 上直接运行,并借助 Arm CMSIS-NN 加速。它通过单一工作流支持所有能力层级(Scalar、DSP 和 MVE/Helium)。

阅读《Bringing ExecuTorch to Arm Cortex-M CPUs》。

九家新成员加入 PyTorch 基金会

新的白金成员包括 Nebius、Nscale 和 Shopify,进一步深化了 PyTorch 基金会作为开源 AI 开发智能层的作用。

基金会欢迎以下新成员:

  • 白金:Nebius、Nscale 和 Shopify Inc.
  • 白银:LightSeek Foundation 和 Lablup Inc.
  • 准会员:SKOPOS INDIA FOUNDATION、Siksha ‘O’ Anusandhan、Messiah University 和 Valencia College。

如今,AI 创新同时在所有技术栈层面发生,研究、模型、基础设施、硬件和生产持续相互推动。PyTorch 基金会是这一互联生态系统的中心枢纽,将构建开放 AI 的研究人员、开发者和公司团结在一起。

“当更多的人、项目和组织开展合作时,开放系统的学习速度会更快,从而产生复合收益,”PyTorch 基金会执行董事 Mark Collier 表示。“开源生态系统让突破能够在组织之间传播,而不是被锁在一家公司内部。”

Nebius 长期以来也一直为 vLLM 提供用于开发、测试和基准测试的计算资源,包括在 DeepSeek R1 等大型模型上的多节点工作。

Nscale 最初通过 Ray 进入 PyTorch 基金会的项目生态系统,Ray 是用于分布式计算和扩展 AI 工作负载的开源框架。在 Nscale 计划收购 Ray 背后的公司 Anyscale 之后,Nscale 已承诺继续投资 Ray 的开发及其贡献者社区,延续 Ray 自 2025 年 10 月加入基金会以来在基金会下的治理。

“大多数基础设施提供商将框架和数据中心视为两个独立的问题。我们则把它们视为一体。PyTorch 之所以一直是 AI 的基础层,是因为它保留了研究人员熟悉的 Pythonic 风格,同时在性能上认真发力。同样隶属于 PyTorch 基金会的 Ray 则做着不同的事:让这些工作负载能够在数千块 GPU 上运行。随着 Ray 的创造者 Anyscale 即将加入 Nscale,我们不仅是在使用这个生态系统,更是在构建其底层的基础设施。作为白金会员加入 PyTorch 基金会,是我们对这一生态的直接支持,而不仅仅是从中受益。”Nscale 云原生平台工程副总裁 Nick Jones 表示

Shopify 的工作在 Cody Mazza-Anthony 的主题演讲及配套案例研究中得到展示。通过使用 PyTorch 和 vLLM 构建持续学习循环,Shopify 每天将生产故障压缩进模型权重,超越了前沿模型的质量,并将服务成本降低了 96%。

第 0 天:培训、工作坊和同期活动

10 月 19 日的第 0 天议程包括:

  • PyTorch:携手 Red Hat、NVIDIA 和 IBM 赋能企业
  • LF AI & Data Summit 2026
  • PyTorch 助理培训
  • Jupyter Day
  • 从学术到应用工作坊
  • Arm Create 携手 Google、Google DeepMind、Nota 和 Renesas
  • 在 Amazon SageMaker 上微调 LLM 并使用 GenieX 在设备端运行

The PyTorch 助理培训 提供了一项线下、由讲师主导的课程,聚焦于 PyTorch 认证助理(PTCA)考试. 所涵盖的基础和实践技能。通过讲座、演示、指导实验和评估,该培训旨在帮助参与者从零开始构建和优化真实世界的模型。完成课程还包括一张认证考试代金券。

感谢首席讲师 Faradawn Yang、内容创作者 Sahdev Zala,以及助理讲师 Allison Ding、Krishna Kalyan、Santosh Bahir、Lakshay Garg 和 Ian Wang。

由 PyTorch 基金会 OSPO 与学术外联工作组主办, 从学术到应用工作坊 聚焦于将 promising 的 PyTorch 项目带出单篇论文、实验或实验室。这一社区活动探讨了研究软件如何成为可靠、可复用的工具,供他人采用、贡献并在此基础上构建。

为期两天的主旨演讲

10 月 20 日,星期二

  • 共同加速开放智能:Mark Collier(PyTorch 基金会)
  • Shopify 使用 PyTorch 和 vLLM 的持续学习循环:Cody Mazza-Anthony(Shopify)
  • PyTorch 更新:Alban Desmaison 和 Edward Yang(Meta)
  • MAX 和 Mojo:扩展 PyTorch 的最佳方式:Chris Lattner(Qualcomm)
  • Ray 的演进以支持 AI 工作负载:Ion Stoica(UC Berkeley / Anyscale)
  • Trainium 迈向原生 PyTorch 之路:Robert Hundt(Amazon)
  • 超越蛮力:自适应智能时代:Sara Hooker(Adaption)
  • PyTorch 在 Meta——从内部工作负载到多芯片生态系统:Jana van Greunen(Meta)
  • vLLM 更新:扩展开放前沿推理基础设施:Simon Mo(Inferact)
  • 生产规模的开源推理:Carlos Costa(IBM)、Abdullah Gharaibeh(Google Cloud)和 Stephen Watt(Red Hat)
  • 面向 Vera Rubin 上智能体的 PyTorch 性能:Ujval Kapasi(NVIDIA)

10 月 21 日,星期三

  • 构建开源 AI 的下一个篇章:Mark Collier(PyTorch 基金会)
  • 从 AI 到智能体 AI 再回归:Mazin Gilbert(Agentic AI Foundation)
  • 工作负载可替代性
    在智能体时代:将原生 PyTorch 引入 Cloud TPU:Bill Jia(Google Cloud)和 Zongwei Zhou(Meta)
  • 从芯片到规模化模型:Priya Nagpurkar(IBM)
  • 贡献者奖——由 Red Hat 赞助:由 Cara Delia(Red Hat)和 Chris Gottbrath 颁发
  • 使用 DeepSpeed 扩展大型前沿模型训练:Zhipeng Wang(Google)
  • 开放科学与 AI 基础模型:知识追求中的盟友:Rachad Alao(Cohere)
  • AI 模型定制平台:Yiwei Song(Crusoe)
  • 面向研究时代的线性代数:Mark Saroufim(Core Automation)

技术会议与社区博览会

今年令人印象深刻的议程包括 100 多场会议,涵盖基础概念和核心框架工作,以及训练、推理、应用、内核工程和负责任 AI。每个分会场都突出了 PyTorch 基金会项目在现实世界中构建、扩展、部署和使用的不同方面。查看 完整日程 并关注 PyTorch YouTube 频道 ,所有会议将在大会结束后发布。

PyTorchCon community expo除了技术会议,大会还通过社区博览会中引人入胜的现场体验促进了社区协作,包括 Birds of a Feather(BoFs)讨论、Demo Theater 的现场展示、在 Meet the Developers 环节与核心维护者的直接问答,以及诸如 Women & Non-Binary in PyTorch Lunch 等专门的社交活动。参会者排队领取 Philip Kiely 签名的《Inference Engineering》一书,还有无数连接和创新的机会。144 场 海报展示 展示了广泛的社区主导创新,涵盖 PyTorch 核心开发、内核工程、模型训练、设备端推理和负责任 AI。重点亮点包括针对不同硬件架构上 LLM 的性能优化技术、像 ExecuTorch 这样的高效设备端部署框架,以及新颖的智能体工作流。

庆祝 2026 年 PyTorch 贡献者奖获奖者

2026 年 PyTorch 贡献者奖表彰了 PyTorch 基金会项目中的创新、协作和影响力:PyTorch、vLLM、DeepSpeed、Ray、Helion 和 Safetensors。

恭喜获奖者:

  • 杰出大使:Jiho Kim
  • 新人:Jiangyun Zhu 和 Johannes Zeiser
  • 知识增强者:Abdulsalam Yazid Bande 和 Suman Debnath
  • 缺陷克星:Guilherme Vieira Leobas 和 Vishal Goyal
  • 评审中坚:Wentao Ye
  • 催化剂:Jiahao Tan 和 Harry Mellor
  • 创新者:Masahiro Tanaka、Elfie Guo 和 Xinan Lin
  • 生态冠军:Guangye Yu
  • 超级英雄:Thomas Ortner

恭喜入围者 Chandra Mohan Singh Negi、Arun Bhandari、Masahiro Hiramori、Luka Govedič、Irakli Salia、Jiahao Chen、Kunshang Ji、Rohit Kumar Tiwari、Subin George、Xunzhuo Liu 和 Aaron Gokaslan。

感谢 Red Hat 的 Cara Delia 和 Chris Gottbrath 颁发奖项,也感谢 Red Hat 赞助这些奖项。

我们还要感谢 2026 年奖项委员会:Chris Hoge(NVIDIA)、Chris Gottbrath、Ashok Emani(Intel)、Piotr Bialecki(NVIDIA)、Yashasvi Misra、Sudhir Dharanendraiah(Red Hat)、Zesheng Zong(Huawei)、Jiawei Li 和 Kaichao You(Inferact)。

Flare Party 与 AI Community Bash,携手 De La Soul

Community Expo 让参会者在赞助商和参展商的展位上与他们交流,讨论开源 AI 全栈中的各项工作。第一天之后的交流在周二的 Flare Party 上继续,现场提供美食、饮品,并在 Demo Theater 举行 Pub Trivia。

周三,AI Community Bash 将 AGNTCon + MCPCon 和 PyTorch 社区聚集在一起,共度一个充满美食、饮品、愉快交流和传奇嘻哈团体 DE LA SOUL 现场音乐会的夜晚。

感谢我们的议程主席、委员会和赞助商

感谢议程主席 Jeff Daily(AMD)、Alban Desmaison(Meta)和 Mike Ruberry(NVIDIA),以及全体议程委员会贡献他们的时间和专业知识。

认识议程主席和委员会。

感谢我们的钻石赞助商:AMD、AWS、Crusoe、Google、IBM、Meta、NVIDIA 和 Qualcomm。

感谢我们的白金赞助商:Anyscale、Arm、Baseten、Clockwork.io、Huawei、Inferact、Intel、Lightning AI、Nscale、Red Hat 和 Verda。

我们感谢每一位赞助商的支持。请访问 会议网站 查看完整赞助商名单。

展望 2027

感谢在圣何塞齐聚一堂、共同加速开放智能的贡献者、维护者、演讲者、参会者和会员组织。

敬请关注会议演讲幻灯片和录像,并记下日期:PyTorch Conference 将于 2027 年 10 月 6–7 日重返圣何塞!

/row /row