蚂蚁 inclusionAI 在 GitHub 发布 sglang_ling_v3 仓库
蚂蚁 inclusionAI 在 GitHub 上线 sglang_ling_v3 仓库,内容基于开源推理框架 SGLang,该框架面向大语言模型、视觉语言模型和扩散模型,针对智能体负载、大规模服务与 RL rollout 优化。仓库 README 显示 SGLang 支持 GPU、TPU、NPU、CPU 与 Apple Silicon,并内置图像视频生成引擎 SGLang Diffusion。
l/sgl-router protoproto pythonpython rustrust scriptsscripts sgl-model-gatewaysgl-model-gateway testtest tools/sglang-simulatortools/sglang-simulator .codespellrc.codespellrc .coveragerc.coveragerc .dockerignore.dockerignore .git-blame-ignore-revs.git-blame-ignore-revs .gitignore.gitignore .isort.cfg.isort.cfg .pre-commit-config.yaml.pre-commit-config.yaml CODE OF CONDUCT.mdCODE OF CONDUCT.md LICENSELICENSE README.mdREADME.md 仓库文件导航SGLang:面向大语言模型和多模态模型的快速推理 文档 | 示例手册 | 网站 | 博客 | Slack SGLang 是一个
匹配字段正文





