←新闻详情

Clément Delangue更新于 10月21日 22:46

Decision 模型现可在 llama.cpp 本地运行

Decision models now run on device in llama.cpp. Free, fast, private!

AI 导读

Decision 模型现可在 llama.cpp 中端侧运行。免费、快速、私密! llama serve -hf ggml-org/Kev-4B-GGUF https://t.co/ApnQQaKB4Z

正文

当前显示原文,中文全文译文尚未就绪。

Decision models now run on device in llama.cpp. Free, fast, private!

llama serve -hf ggml-org/Kev-4B-GGUF https://t.co/ApnQQaKB4Z

来源

Clément Delangue