先了解这件事
AI 综述
2025年5月28日,Ollama 宣布支持工具调用的流式响应,聊天应用可以边流式输出内容边实时调用工具。官方称该能力支持 Qwen 3、Devstral、Qwen2.5、Llama 3.1、Llama 4 等模型。为此 Ollama 构建了新的增量解析器,直接参考各模型模板识别工具调用前缀,不再等整段输出生成后再按 JSON 解析,并改进了模型引用此前工具调用时重复触发的问题。开发者现在可以在 Ollama 配合 MCP 使用时同时流式输出聊天内容和工具调用。官方提到,上下文窗口设为 32k 或更高有助于提升工具调用表现,但内存占用也会随之增加。目前该消息来自 Ollama 官方博客,尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Ollama 支持工具调用流式响应事件进展
1 个已确认进展
- 来源：Ollama Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
5月28日
Ollama Blog一手精选
Ollama 支持工具调用流式响应
Ollama 宣布支持工具调用的流式响应，聊天应用可以边流式输出内容边实时调用工具，支持 Qwen 3、Devstral、Qwen2.5、Llama 3.1、Llama 4 等模型。Ollama 为此构建了新的增量解析器，直接参考各模型模板识别工具调用前缀，不再等整段输出生成后再按 JSON 解析，并改进了模型引用此前工具调用时重复触发的问题。开发者现在可以在 Ollama 配合 MCP 使用时同时流式输出聊天内容和工具调用，官方提到上下文窗口设为 32k 或更高有助于提升工具调用表现，但内存占用也会随之增加。