先了解这件事
AI 综述
2026年11月13日,PyTorch博客宣布,PyTorch的Helion DSL新增编译期启发式,通过分析内核IR与数据流将其归类为matmul、reduction或pointwise,直接给出block size、num_warps、num_stages等配置,无需自动调优。据该博客,在H100上,线性注意力内核相比手写Triton的FLA前向快1.18倍,vLLM的6个reduction内核相比其手写CUDA/C++快1.27倍,通用reduction内核套件达到torch.compile max-autotune的1.09倍。该启发式已合入Helion,并在H100和B200的Triton后端默认启用。
AI 根据公开报道生成
最新进展 · 正式报道
PyTorch Helion 引入编译期启发式,免自动调优选择内核配置事件进展
1 个已确认进展
- 来源:PyTorch Blog
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
11月13日
PyTorch Blog一手
PyTorch Helion 引入编译期启发式,免自动调优选择内核配置
PyTorch 的 Helion DSL 新增编译期启发式,通过分析内核 IR 与数据流将其归类为 matmul、reduction 或 pointwise,直接给出 block size、num_warps、num_stages 等配置,无需自动调优。在 H100 上,线性注意力内核相比手写 Triton 的 FLA 前向快 1.18x,vLLM 的 6 个 reduction 内核相比其手写 CUDA/C++ 快 1.27x,通用 reduction 内核套件达到 torch.compile max-autotune 的 1.09x。该启发式已合入 Helion,并在 H100 和 B200 的 Triton 后端默认启用。