先了解这件事
AI 综述
2026年4月24日,goose 发布内置本地推理能力,该能力基于 llama.cpp,集成于 goose 桌面应用中。用户在应用内选择 Local provider 后,可直接从 Hugging Face 下载量化 GGUF 模型并在本机运行,无需 Ollama、Docker 或外部服务器,也无需 API key,可离线使用。官方说明指出,本地模型首次请求需 30–120 秒加载,上下文多为 4K–8K token,工具调用是最大短板,Gemma 4 表现较好,而模拟模式仅限 shell 命令;官方建议从小模型起步并使用 Code Mode。目前该事实尚无后续发展。
AI 根据公开报道生成
最新进展 · 正式报道
goose 桌面端内置基于 llama.cpp 的本地推理模型事件进展
1 个已确认进展
- 来源：goose 官方博客
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
4月24日
goose 官方博客一手精选
goose 桌面端内置基于 llama.cpp 的本地推理模型
goose 在桌面应用中内置了由 llama.cpp 驱动的本地推理，选择 Local provider 后可直接从 Hugging Face 下载量化 GGUF 模型并在本机运行，无需 Ollama、Docker 或外部服务器，也无需 API key，可离线使用。官方说明本地模型首次请求需 30–120 秒加载，上下文多为 4K–8K token，工具调用是最大短板，Gemma 4 表现较好而模拟模式仅限 shell 命令；建议从小模型起步并使用 Code Mode。