Meta 蒸馏出 30B 模型 Muse Glimmer,单张消费级 GPU 可跑智能体
Meta's paper behind, Muse Glimmer 30B, a 30B model distilled from Meta's larger Muse Spark can run AI agents on 1 consumer GPU
AI 导读
Meta 从更大的 Muse Spark 蒸馏出稠密 30B 模型 Muse Glimmer,用模拟应用中的合成智能体轨迹训练,4-bit 权重不到 20 GB,可在单张 RTX 5090 上运行。在多工具测试 MCPAtlas 上它得 75.5,高于 Gemma4-31B 的 54.2 和 Qwen3.6-27B 的 62.5;但在 OSWorld-Verified 上以 65.9 落后于 Qwen3.6-27B 的 75.6。
正文 · AI 翻译
Meta 的论文落后了,Muse Glimmer 30B,一个从 Meta 更大的 Muse Spark 蒸馏出的 30B 模型,可在单张消费级 GPU 上运行 AI 智能体
小到足以在消费级硬件上运行的开源模型通常是通用型的,在长时间使用工具的任务上表现较弱。这使得本地智能体远远落后于云端托管的智能体。
Meta 从其更大的 Muse Spark 中蒸馏出稠密 30B 模型 Muse Glimmer,并在模拟应用中的合成智能体运行轨迹上对其进行了训练。其 4-bit 权重占用不到 20 GB,因此可在单张 RTX 5090 上运行。
在多工具测试 MCPAtlas 上,它得分为 75.5,而 Gemma4-31B 为 54.2,Qwen3.6-27B 为 62.5。在 OSWorld-Verified 上,它仍以 65.9 落后于 Qwen3.6-27B 的 75.6。