先了解这件事
AI 综述
2026年2月11日,阿里云千问团队与AMD AI框架团队基于SGLang框架,在AMD Instinct MI300X系列GPU平台上为Qwen3-235B和Qwen3-VL-235B完成极端延迟优化。据LMSYS Blog报道,Qwen3-235B的TTFT提升1.67倍、TPOT提升2.12倍,Qwen3-VL-235B的TTFT提升1.62倍、TPOT提升1.90倍。优化采用PTPC(Per Token Activation, Per Channel Weight)FP8量化与TP8张量并行,PTPC FP8 GEMM在ROCm平台上比BlockScale FP8快15%–30%,相关优化已开源。目前该事件无后续发展事实。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：LMSYS Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
2月11日
LMSYS Blog一手
Qwen3 与 Qwen3-VL 在 AMD MI300X 上的延迟优化：TTFT 最高提升 1.67 倍
阿里云千问团队与 AMD AI 框架团队基于 SGLang，在 AMD Instinct MI300X 系列 GPU 上为 Qwen3-235B 和 Qwen3-VL-235B 完成延迟优化：Qwen3-235B 的 TTFT 提升 1.67×、TPOT 提升 2.12×，Qwen3-VL-235B 的 TTFT 提升 1.62×、TPOT 提升 1.90×。优化采用 PTPC（Per Token Activation, Per Channel Weight）FP8 量化与 TP8 张量并行，PTPC FP8 GEMM 在 ROCm 平台上比 BlockScale FP8 快 15%–30%，相关优化已开源。