←新闻详情

Fireworks AI更新于 10月25日 21:05

Meta 的 Muse Glimmer 30B 上线 Fireworks,面向常驻智能体

Muse Glimmer from Meta on Fireworks: Ideal for your always-on agents

AI 导读

Fireworks 上线 Meta 的 Muse Glimmer 30B 稠密模型,采用 Apache 2.0 许可,支持 128K+ token 上下文和原生图像理解,面向需要多轮工具调用的常驻智能体。该模型在 MCP Atlas 得 75.5、DeepSearch QA 得 74.6、SWE-Bench Pro 得 51.2,均高于 Gemma 4 31B 和 Qwen 3.6 27B 的对应成绩,这些基准数据由 Meta 报告。Fireworks 同时给出 temperature 1.0、top_p 0.95、top_k 64 的推荐设置,并支持在系统提示词中调节推理强度。

推荐理由

精选AI 评分 72

原文给出 30B 模型在工具编排类基准上的对比数据与部署配置,可据此判断它是否适合长时运行的智能体。

主题

标签

正文 · AI 翻译

该模型在设计时充分考虑了智能体场景。它面向“常驻在线”的智能体,而不仅仅是简单的聊天交互。它能够在多轮对话中管理大量顺序工具调用。当工具调用失败或返回意外结果时,它具备从失败中恢复并重试的能力,而不是直接中止。

Muse Glimmer 的架构解析

Muse Glimmer 是一个 30B 稠密模型,由 52 个 transformer 层、分组查询注意力(32 个查询头、2 个 KV 头)以及 SwiGLU 前馈层组成。一个约 1.8B 的感知编码器赋予它原生图像理解能力,与文本处理并行,并支持 128K+ token 的上下文窗口。

Meta 构建此模型的目标是让它能装进 24 GB 显存。同样的设计——较小的 KV 占用、滑动窗口注意力——使其在高并发下服务成本可控。由于权重以 Apache 2.0 许可发布,路径是对称的:在工作站上针对量化版本做原型验证,当需要服务数千个会话时,将同一模型部署到 Fireworks 上。

对智能体而言最重要的细节是注意力模式:大多数层采用 2,048 token 的滑动窗口注意力,每第四层设有一个完整的全局注意力层。配合仅两个 KV 头,这使 KV 缓存保持较小——这正是长上下文智能体在高并发下经济可服务的原因。该模型的架构效率使智能体能够比同类稠密模型更经济地管理 100K token 的累积工具输出,且节省效果可随并发会话数扩展。

该模型还支持 DFlash 投机解码,以降低生成延迟。

该模型的优势场景

从端到端支持问题解决到扩展的自主研究,该模型专为深度多步推理、大规模并行以及严苛智能体工作流中的可靠性而构建。该模型非常适合以下工作负载:

面向客户的支持智能体:端到端解决工单的智能体需要拉取账户状态、检查库存、起草退款以供审批,并在数十次工具调用中与用户确认状态。Meta 建议对不可逆操作进行人工确认;我们对此表示赞同:将模型的作用范围限定为读取、规划和暂存,并对写入操作设置门控。失败恢复在这里至关重要,因为工作流中途超时不应让客户陷入困境。

长时间运行的研究与监控智能体:这类智能体跨多个来源展开工作,将发现保留在上下文中,并在数小时后返回综合结果。Muse Glimmer 在 DeepSearch QA(74.6)和 MCP Atlas(75.5)上领先其规模级别,这两项基准最贴近此类工作形态。原生图像输入意味着图表和文档与文本走同一循环——Muse Glimmer 在 CharXiv Reasoning(78.8)上领先其级别。请注意 2026 年 1 月 4 日的知识截止日期,任何时间敏感的内容都需要通过工具获取。

仓库级编码智能体:这类智能体读取仓库、规划变更、运行测试并针对失败进行迭代。Muse Glimmer 在 SWE-Bench Pro(51.2)和 SciCode(43.6)上领先其级别。

基准测试表现

与 Gemma 4 31B 和 Qwen 3.6 27B 相比,Muse Glimmer 在衡量工具编排和持续多轮工作的基准上领先:

基准测试Muse Glimmer 30B(高推理)Gemma 4 31B(思考模式)Qwen 3.6 27B(思考模式)MCP Atlas(公开)75.554.262.5DeepSearch QA74.661.771.1Gaia243.336.440.0WildClawBench47.637.643.2SWE-Bench Pro51.236.950.2

*注:Muse Glimmer 的基准数据由 Meta 报告

如果你的智能体运行在终端中或驱动桌面,请对两个模型都进行基准测试。如果它通过长时间多轮会话编排 API 和 MCP 工具,那么在此规模下这是更强的选择。

Muse Glimmer 已在 Fireworks 上提供,支持无服务器和按需部署两种方式。我们比其他方晚一天发布,这是有意为之。我们多花了一天来启动,因为我们想把这件事做对。这意味着修正模型发布的生成配置,并将推理强度控制一路贯通到模型。优秀的模型值得优秀的执行。质量是我们的最高优先级,我们希望确保你从第一天起就能获得你所期望的精确性能、控制力和可靠性。

无需采购 GPU。从一次 API 调用开始;无需容量规划即可扩展到生产环境。

为突发性智能体流量而构建。智能体工作负载会不可预测地激增。Fireworks 自动扩缩以匹配需求,因此你无需为峰值预留容量。

良好运行:Meta 建议使用以下设置。

temperature = 1.0,top_p = 0.95,top_k = 64

推理强度在系统提示词中设置为 Reasoning strength: ,可选 low、medium、high 和 xhigh——智能体和编码工作请使用 high 或 xhigh。上表中的所有基准数据均在高强度下测得。

智能体 AI 时代已经到来。我们鼓励你今天就使用 Fireworks 上的 Muse Glimmer 模型开始构建。查看我们的文档并开始构建!

模型发布

来源

Fireworks AI