蚂蚁 inclusionAI 在 GitHub 发布 sglang_ling_v3 仓库
蚂蚁 inclusionAI 在 GitHub 上线 sglang_ling_v3 仓库,内容基于开源推理框架 SGLang,该框架面向大语言模型、视觉语言模型和扩散模型,针对智能体负载、大规模服务与 RL rollout 优化。仓库 README 显示 SGLang 支持 GPU、TPU、NPU、CPU 与 Apple Silicon,并内置图像视频生成引擎 SGLang Diffusion。
蚂蚁 inclusionAI 在 GitHub 上线 sglang ling v3 仓库,内容基于开源推理框架 SGLang,该框架面向大语言模型、视觉语言模型和扩散模型,针对智能体负载、大规模服务与 RL rollout 优化。仓库 README 显示 SGLang 支持 GPU、TPU、NPU、CPU 与 Apple Silicon,并内置图像视频生成引擎 SGLang Diffusion。
匹配字段摘要、正文