先了解这件事
AI 综述
2025年2月25日,斯坦福 Hazy Research 实验室等研究者提出 Minions 方法,让 Llama 3.2 等本地小模型与 GPT-4o 等云端大模型协作,把部分 LLM 工作负载转移到消费级设备,以降低云端成本。其中 Minion 协议让云端模型与单个本地模型自由对话直至达成结果,远程成本降低 30.4 倍,同时保留 87% 的云端模型性能;MinionS 协议由云端模型把任务拆成小块子任务、由小模型并行处理,远程成本降低 5.7 倍,保留 97.9% 的性能。论文附带开源代码,可通过 Ollama 和 OpenAI API Key 运行 demo。目前尚无后续发展事实。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:Ollama Blog
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
2月25日
Ollama Blog一手精选
斯坦福 Hazy Research 提出 Minions 协议,让本地小模型与云端大模型协作
斯坦福 Hazy Research 实验室等研究者提出 Minions 方法,让 Llama 3.2 等本地小模型与 GPT-4o 等云端大模型协作,把部分 LLM 负载转移到消费级设备,以降低云端成本。其中 Minion 协议让云端模型与单个本地模型自由对话直至达成结果,远程成本降低 30.4 倍,同时保留 87% 的云端模型性能;MinionS 协议由云端模型把任务拆成小块子任务、由小模型并行处理,远程成本降低 5.7 倍,保留 97.9% 的性能。论文附带开源代码,可通过 Ollama 和 OpenAI API Key 运行 demo。