←事件详情

热点事件

Gerganov展示llama serve新命令用法

1 篇正式报道1 条事件动态更新于 8月15日 01:11

先了解这件事

AI 综述

2026年8月14日,Georgi Gerganov 展示了一条 llama serve 命令的新用法。该命令为:llama serve -hf ggml-org/Qwen3.8-27B-GGUF --spec-type draft-mtp,其中通过 --spec-type 参数指定 draft-mtp 类型,并配合 -hf 加载 ggml-org/Qwen3.8-27B-GGUF 模型。目前该信息仅来自 Gerganov 本人的一次展示,尚无更多后续进展。

AI 根据公开报道生成

最新进展 · 正式报道

llama.cpp 一行命令跑 Qwen3.8-27B

事件进展

1 个已确认进展

  1. Gerganov展示llama serve新命令用法

    来源:Georgi Gerganov

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

8月15日

  1. Georgi Gerganov

    llama.cpp 一行命令跑 Qwen3.8-27B

    简单: llama serve -hf ggml-org/Qwen3.8-27B-GGUF --spec-type draft-mtp

关联事件

  1. 相关事件llama.cpp新增DFlash投机解码支持
  2. 相关事件llama.cpp通过ggml RPC后端分发异构推理
  3. 相关事件DeepSeek开源推理框架DeepInfer
  4. 相关事件inclusionAI 在 GitHub 建立 vLLM 仓库