先了解这件事
AI 综述
2025年9月11日,vLLM宣布完整支持千问Qwen3-Next,用户可通过nightly版本运行该模型的混合注意力、高稀疏MoE和多token预测功能。Qwen3-Next交错采用Gated DeltaNet与全注意力,支持扩展至65K及以上上下文;其中80B-A3B模型每个token仅激活3B参数。为实现适配,vLLM集成了Triton kernel和混合KV cache管理器,并默认启用完整CUDA graph模式。
AI 根据公开报道生成
最新进展 · 正式报道
vLLM 现已支持千问 Qwen3-Next 混合架构模型事件进展
1 个已确认进展
- 来源:vLLM 官方博客
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
9月11日
vLLM 官方博客一手
vLLM 现已支持千问 Qwen3-Next 混合架构模型
vLLM 现已完整支持千问 Qwen3-Next,可通过 nightly 版本运行其混合注意力、高稀疏 MoE 和多 token 预测功能。Qwen3-Next 交错使用 Gated DeltaNet 与全注意力,可扩展至 65K 及以上上下文;80B-A3B 模型每个 token 仅激活 3B 参数。vLLM 为此集成 Triton kernel、混合 KV cache 管理器,并默认启用完整 CUDA graph 模式。