←事件详情

热点事件

SGLang仓库介绍其开源推理框架

1 篇正式报道1 条事件动态更新于 10月20日 18:16

先了解这件事

AI 综述

蚂蚁 inclusionAI 在 GitHub 上线 sglang_ling_v3 仓库,其内容基于开源推理框架 SGLang。该仓库 README 介绍,SGLang 面向大语言模型、视觉语言模型和扩散模型,针对智能体负载、大规模服务与 RL rollout 进行优化。README 还显示,SGLang 支持 GPU、TPU、NPU、CPU 与 Apple Silicon,并内置图像视频生成引擎 SGLang Diffusion。目前该仓库已发布,尚无进一步开发动态。

AI 根据公开报道生成

最新进展 · 正式报道

蚂蚁 inclusionAI 在 GitHub 发布 sglang_ling_v3 仓库

事件进展

1 个已确认进展

  1. SGLang仓库介绍其开源推理框架

    来源:蚂蚁 inclusionAI:GitHub 新仓库

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月20日

  1. 蚂蚁 inclusionAI:GitHub 新仓库一手

    蚂蚁 inclusionAI 在 GitHub 发布 sglang_ling_v3 仓库

    蚂蚁 inclusionAI 在 GitHub 上线 sglang_ling_v3 仓库,内容基于开源推理框架 SGLang,该框架面向大语言模型、视觉语言模型和扩散模型,针对智能体负载、大规模服务与 RL rollout 优化。仓库 README 显示 SGLang 支持 GPU、TPU、NPU、CPU 与 Apple Silicon,并内置图像视频生成引擎 SGLang Diffusion。

关联事件

  1. 相关事件vLLM-Omni团队发布技术报告
  2. 相关事件Meta发布开放权重模型Muse Spark Open
  3. 相关事件Amazon推出TorchNeuron开源工具包
  4. 相关事件蚂蚁百灵开源 Ling-3.1-flash 模型