←新闻详情

蚂蚁百灵更新于 10月21日 22:46

vLLM 为 Ling-3.1-flash 提供 Day-0 支持

Big thanks @vllm_project for making Ling-3.1-flash ready to run on developers’ own infrastructure from day one!

AI 导读

vLLM 宣布在 Ling-3.1-flash 发布当天即提供 Day-0 支持,开发者可在自有基础设施上部署该模型。该模型总参数量约 560B,每 token 激活约 25B,上下文窗口最高 1M,可用于生成网站、移动端 UI 和交互原型。蚂蚁百灵随后致谢 vLLM 让 Ling-3.1-flash 从第一天起就能在开发者自有基础设施上运行。

推荐理由

AI 评分 56

vLLM 在 Ling-3.1-flash 发布当天即提供支持,读者可据此判断该模型的部署门槛与自托管可行性。

主题

标签

引用

vLLM

@vllm_project

🎉 Day-0 support for Ling-3.1-flash is here in vLLM! ~560B total parameters, ~25B active per token, and up to 1M context. From a rough brief to websites, mobile UIs, and interactive prototypes—serve it on your own infrastructure with vLLM. Congrats to @AntLingAGI!

查看原帖

正文

当前显示原文,中文全文译文尚未就绪。

Big thanks @vllm_project for making Ling-3.1-flash ready to run on developers’ own infrastructure from day one!

来源

蚂蚁百灵