先了解这件事
AI 综述
2026年7月30日,SGLang维护方RadixArk与Google Cloud达成合作,将SGLang推理框架引入TPU。据LMSYS Blog当日发布的信息,开发者目前可通过SGL-JAX在最新几代TPU上运行SGLang,支持Gemma、Qwen、DeepSeek、GLM、Kimi、MiniMax、Grok等模型,以及Wan、Flux等视频图像扩散模型。同一来源称,今年晚些时候RadixArk还将推出PyTorch原生的SGL-torchtpu后端,支持eager执行、PyTorch生态兼容与MPMD,并计划让新开源模型在TPU与GPU上同日可用。目前该合作尚无后续独立发展事实,状态以这一官方发布为准。
AI 根据公开报道生成
最新进展 · 正式报道
RadixArk 与 Google 合作将完整 SGLang 功能带到 TPU事件进展
1 个已确认进展
- 来源:LMSYS Blog
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
7月30日
LMSYS Blog一手
RadixArk 与 Google 合作将完整 SGLang 功能带到 TPU
SGLang 维护方 RadixArk 与 Google Cloud 达成合作,把 SGLang 推理框架带到 TPU 上。目前开发者可通过 SGL-JAX 在最新几代 TPU 上运行 SGLang,支持 Gemma、Qwen、DeepSeek、GLM、Kimi、MiniMax、Grok 等模型以及 Wan、Flux 等视频图像扩散模型。今年晚些时候 RadixArk 还将推出 PyTorch 原生的 SGL-torchtpu 后端,支持 eager 执行、PyTorch 生态兼容与 MPMD,并计划让新开源模型在 TPU 与 GPU 上同日可用。