←事件详情

热点事件

斯坦福团队提出本地与云端LLM协作协议Minions

1 篇正式报道1 条事件动态更新于 2月25日 08:00

先了解这件事

AI 综述

2025年2月25日,斯坦福 Hazy Research 实验室等研究者提出 Minions 方法,让 Llama 3.2 等本地小模型与 GPT-4o 等云端大模型协作,把部分 LLM 工作负载转移到消费级设备,以降低云端成本。其中 Minion 协议让云端模型与单个本地模型自由对话直至达成结果,远程成本降低 30.4 倍,同时保留 87% 的云端模型性能;MinionS 协议由云端模型把任务拆成小块子任务、由小模型并行处理,远程成本降低 5.7 倍,保留 97.9% 的性能。论文附带开源代码,可通过 Ollama 和 OpenAI API Key 运行 demo。目前尚无后续发展事实。

AI 根据公开报道生成

最新进展 · 正式报道

斯坦福 Hazy Research 提出 Minions 协议,让本地小模型与云端大模型协作

事件进展

1 个已确认进展

  1. 斯坦福团队提出本地与云端LLM协作协议Minions

    来源:Ollama Blog

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

2月25日

  1. Ollama Blog一手精选

    斯坦福 Hazy Research 提出 Minions 协议,让本地小模型与云端大模型协作

    斯坦福 Hazy Research 实验室等研究者提出 Minions 方法,让 Llama 3.2 等本地小模型与 GPT-4o 等云端大模型协作,把部分 LLM 负载转移到消费级设备,以降低云端成本。其中 Minion 协议让云端模型与单个本地模型自由对话直至达成结果,远程成本降低 30.4 倍,同时保留 87% 的云端模型性能;MinionS 协议由云端模型把任务拆成小块子任务、由小模型并行处理,远程成本降低 5.7 倍,保留 97.9% 的性能。论文附带开源代码,可通过 Ollama 和 OpenAI API Key 运行 demo。

关联事件

  1. 相关事件Artificial Analysis 发布 AA-Robotics v0.1 研究预览
  2. 相关事件Nvidia发布Nemotron 3.5 Super VL与Bolt模型
  3. 相关事件Anthropic 警告小型 AI 模型或将在 IoT 设备上自我复制
  4. 相关事件Moonshot AI发布旗舰模型Kimi K3