先了解这件事
2026年10月22日,PyTorch官方博客介绍,AMD MI350系列GPU用户现可通过现有算子API使用FlyDSL,无需调用自定义内核。该支持覆盖dense与grouped GEMM、MXFP8/MXFP4缩放GEMM、RMSNorm、TopK,以及经AOTriton 0.14b系列提供的注意力内核。性能方面,在MI355X上,BF16 dense GEMM相对ATen与Triton中较快的基线取得1.10x几何平均加速,MXFP8和MXFP4相对ATen分别为1.58x和1.68x,grouped GEMM相对Triton为1.20x。vLLM端到端A/B测试中,整请求加速为BF16 1.13x、MXFP8 2.04x、MXFP4 3.01x,具体取决于模型与并发度。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
PyTorch 在 AMD GPU 上接入 FlyDSL 后端事件进展
1 个已确认进展
- 来源：PyTorch Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月22日
PyTorch Blog一手精选
PyTorch 在 AMD GPU 上接入 FlyDSL 后端
PyTorch 官方博客介绍，AMD MI350 系列 GPU 用户现可通过现有算子 API 使用 FlyDSL，覆盖 dense 与 grouped GEMM、MXFP8/MXFP4 缩放 GEMM、RMSNorm、TopK 以及经 AOTriton 0.14b 系列提供的注意力内核，无需调用自定义内核。在 MI355X 上，BF16 dense GEMM 相对 ATen 与 Triton 中较快的基线取得 1.10x 几何平均加速，MXFP8 和 MXFP4 相对 ATen 分别为 1.58x 和 1.68x，grouped GEMM 相对 Triton 为 1.20x。vLLM 端到端 A/B 测试中整请求加速为 BF16 1.13x、MXFP8 2.04x、MXFP4 3.01x，具体取决于模型与并发度。