←事件详情

热点事件

inclusionAI 在 GitHub 建立 vLLM 仓库

1 篇正式报道1 条事件动态更新于 10月13日 20:30

先了解这件事

事件摘要

还没有公开综述,先看下面的报道时间线。

最新进展 · 正式报道

蚂蚁 inclusionAI 在 GitHub 新建 vLLM 仓库

事件进展

1 个已确认进展

  1. inclusionAI 在 GitHub 建立 vLLM 仓库

    来源:蚂蚁 inclusionAI:GitHub 新仓库

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月13日

  1. 蚂蚁 inclusionAI:GitHub 新仓库一手

    蚂蚁 inclusionAI 在 GitHub 新建 vLLM 仓库

    蚂蚁 inclusionAI 在 GitHub 新建了 vllm 仓库,目前 Fork 0、Star 0。该仓库介绍的是 vLLM——一个面向 LLM 的高吞吐、内存高效推理与服务引擎,最初由 UC Berkeley Sky Computing Lab 开发,已获 2000 多名贡献者支持,可无缝支持 Hugging Face 上 200+ 模型架构。

关联事件

  1. 相关事件StepFun 将 Step Code 更新至 v0.1.4
  2. 相关事件llama.cpp通过ggml RPC后端分发异构推理
  3. 相关事件DeepSeek开源推理框架DeepInfer
  4. 相关事件Baidu发布开源模型Unlimited OCR 2