先了解这件事
AI 综述
2025年4月5日,vLLM宣布从v0.8.3起支持Llama 4 Scout(17B-16E)和Maverick(17B-128E),可部署长上下文原生多模态推理。在8张H100上,Scout支持100万上下文,Maverick约为43万;配置相应参数后,每次请求最多可输入10张图像。A100已支持bf16版本,AMD MI300X可通过源码构建运行;Scout的单张H100 INT4量化版本仍在开发中。
AI 根据公开报道生成
最新进展 · 正式报道
vLLM v0.8.3 新增对 Llama 4 Scout 和 Maverick 的支持事件进展
1 个已确认进展
- 来源：vLLM 官方博客
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
4月5日
vLLM 官方博客一手
vLLM v0.8.3 新增对 Llama 4 Scout 和 Maverick 的支持
vLLM v0.8.3 开始支持 Llama 4 Scout（17B-16E）和 Maverick（17B-128E），可部署长上下文原生多模态推理。在 8xH100 上，Scout 可提供 1M 上下文，Maverick 约为 430K；设置 `--limit-mm-per-prompt image=10` 后，每次请求最多可输入 10 张图像。A100 已支持 bf16 版本，AMD MI300X 可通过源码构建运行，Scout 的单 H100 INT4 量化版本仍在开发中。