先了解这件事
2026年11月12日至13日,LMSYS在旧金山Fort Mason举办首届SGLang Summit,超过2000名开发者参加。会上宣布成立SGLang Consortium,创始成员为NVIDIA、AMD、Intel、Google、Meta、Thinking Machines Lab、Cloudflare、Modal和RadixArk九家机构。同一活动还发布SGLang v1.0与Miles v0.2:SGLang v1.0聚焦生产推理的效率与可扩展性,通过统一内存管理和分层缓存应对混合架构模型与长时运行智能体的状态管理需求;Miles v0.2将强化学习后训练扩展到NVIDIA GPU、AMD GPU和Google TPU,并支持图像、视频、音频及扩散模型。Meta表示其生产推理已由SGLang支撑,迁移后GPU开销节省超过2倍。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:LMSYS Blog
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
11月17日
LMSYS Blog一手精选
SGLang 首届峰会回顾:成立九成员联盟并发布 SGLang v1.0 与 Miles v0.2
LMSYS 于 11 月 12–13 日在旧金山 Fort Mason 举办首届 SGLang Summit,超过 2000 名开发者参加,会上宣布成立由 NVIDIA、AMD、Intel、Google、Meta、Thinking Machines Lab、Cloudflare、Modal、RadixArk 九家创始成员组成的 SGLang Consortium,并发布 SGLang v1.0 与 Miles v0.2。SGLang v1.0 聚焦生产推理的效率与可扩展性,通过统一内存管理和分层缓存应对混合架构模型与长时运行智能体的状态管理需求;Miles v0.2 将强化学习后训练扩展到 NVIDIA GPU、AMD GPU 和 Google TPU,并支持图像、视频、音频及扩散模型。Meta 表示其生产推理已由 SGLang 支撑,迁移后 GPU 开销节省超过 2 倍。
AI 热点