Georgi Gerganov8月15日 01:11更新于 10月21日 22:46

llama.cpp 一行命令跑 Qwen3.8-27B

simple:

AI 导读

简单： llama serve -hf ggml-org/Qwen3.8-27B-GGUF --spec-type draft-mtp

打开来源网站

主题

推理部署与工程开源生态

标签

#开源/仓库 #部署/工程 #推理 #GitHub

正文

当前显示原文，中文全文译文尚未就绪。

simple:

llama serve -hf ggml-org/Qwen3.8-27B-GGUF --spec-type draft-mtp