先了解这件事
AI 综述
2026 年 4 月 28 日,Qwen 团队开源 FlashQLA 线性注意力内核库。据 Qwen Blog 介绍,该库基于 TileLang,对 GDN Chunked Prefill 的前向与反向流程做算子融合,在 NVIDIA Hopper 上相比 FLA Triton 内核实现 2-3× 前向加速和 2× 反向加速。其通过门控驱动的自动卡内上下文并行(CP)和硬件友好的代数重写,提升 TP、长序列、小头数场景下的 GPU SM 利用率。代码与基准已开源于 github.com/QwenLM/FlashQLA。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
FlashQLA:面向 GDN 的 CP/反向友好融合线性注意力内核事件进展
1 个已确认进展
- 来源:Qwen Blog
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
4月28日
Qwen Blog一手
FlashQLA:面向 GDN 的 CP/反向友好融合线性注意力内核
Qwen 团队开源 FlashQLA,一个基于 TileLang 的高性能线性注意力内核库,对 GDN Chunked Prefill 的前向与反向流程做算子融合,在 NVIDIA Hopper 上相比 FLA Triton 内核实现 2-3× 前向加速和 2× 反向加速。它通过门控驱动的自动卡内上下文并行(CP)和硬件友好的代数重写,提升 TP、长序列、小头数场景下的 GPU SM 利用率,代码与基准已开源于 github.com/QwenLM/FlashQLA。