先了解这件事
AI 综述
2025年2月21日,vLLM宣布在其项目下开源由字节跳动开发的AIBrix。该项目是面向Kubernetes大规模大语言模型推理的控制平面,提供部署、管理和扩展能力。初始版本支持LoRA管理、LLM路由与自动扩缩容、分布式推理和KV cache、异构GPU服务及硬件故障检测。AIBrix已应用于字节跳动多个业务场景。
AI 根据公开报道生成
最新进展 · 正式报道
vLLM 推出开源 Kubernetes 推理控制平面 AIBrix事件进展
1 个已确认进展
- 来源：vLLM 官方博客
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
2月21日
vLLM 官方博客一手精选
vLLM 推出开源 Kubernetes 推理控制平面 AIBrix
vLLM 宣布开源由字节跳动开发的 AIBrix，为 Kubernetes 上的大规模 LLM 推理提供部署、管理与扩展能力。初始版本支持 LoRA 管理、LLM 路由与自动扩缩容、分布式推理和 KV cache、异构 GPU 服务及硬件故障检测，并已用于字节跳动多个业务场景。