←新闻详情

Fireworks AI更新于 11月4日 05:08

Fireworks 在 Forge 大会发布 Ultra-fast、Nexus、Sovereign 等多项产品

Fireworks unveils new products at Forge to help companies build specialized intelligence

AI 导读

Fireworks 在首届 Forge 大会上发布多项产品,覆盖推理加速、模型路由、训练与企业部署。基于 NVIDIA Blackwell GPU 的 Fireworks Ultra-fast 进入公开预览,在 DeepSeek V4.1 Flash 上演示速度达 1500 tokens/s,30 轮智能体任务完成时间从 1 分钟降至 8 秒;Background Mode 以半价提供可延后任务的运行选项。Fireworks Nexus 新增桌面端,可在 Codex、Claude Desktop 和 OpenCode 中使用,Pro 版每月 8 美元起,Teams 版每席位每月 10 美元起。训练侧 No Eval 进入私有预览,Specialized Model Inference 以 serverless 方式服务 LoRA 适配器,首发 GLM 5.3 Flash;Fireworks Sovereign 进入私有预览,可将推理引擎部署到客户自有基础设施。

推荐理由

AI 评分 61

Fireworks 在 Forge 大会一次性发布推理加速、模型路由、训练与企业部署多条产品线,可据此了解其面向企业专用智能的产品布局。

主题

标签

正文 · AI 翻译

关于未来有两种愿景:一种是由少数闭源前沿实验室掌握所有智能的世界;另一种是每家公司都拥有使其组织独一无二的智能的世界。

Fireworks Forge 正是为构建第二种未来的人而生。我们的首届年度大会今日开幕,汇聚了来自 AI 原生初创公司、全球企业、开放权重模型实验室等各方的领导者。

开放权重模型的进步——包括在 Fireworks 上可用的来自 NVIDIA、Meta 和 Reflection AI 的模型——正让企业在如何构建 AI 方面拥有更多选择。在大会上,我们发布了新产品,帮助企业将开放模型的进步转化为围绕自身专业知识、数据和任务构建的智能。

这些发布解决了团队在将 AI 融入日常工作过程中面临的实际障碍:响应时间过长的智能体、需要在公司特定任务上表现更好的模型,以及必须满足企业在成本、控制和安全方面要求的基础设施。

更快的智能体,成本与工作负载相匹配

AI 智能体通常需要多次模型调用才能完成单个任务。每次调用都会增加客户或员工等待结果的时间,而同时运行更多智能体则会增加容量压力和成本。团队既需要为时间敏感型工作提供速度,也需要为可以等待的任务提供更经济的选项。

由 NVIDIA Blackwell GPU 驱动的 Fireworks Ultra-fast 可加速这些时间敏感型工作负载。它现已进入公开预览,在 DeepSeek V4.1 Flash 上演示的速度最高可达每秒 1,500 个 token。当延迟在多个步骤中累积时,这种速度尤为宝贵:在一项基准测试的 30 轮智能体任务中,ultra-fast 模式下的完成时间从 1 分钟降至 8 秒。

对于成本比即时完成更重要的负载,Background Mode 为团队提供了半价的低成本运行时选项。该模式降低了可等待的合格工作的单任务成本,例如用于评估的数据生成和夜间研究。多日 Prompt Caching 降低了重复上下文的成本,而更高的速率限制则支持更多并发智能体。

图 1:持久化智能体在暂停后每次恢复时都要为重新处理上下文付费,而后台智能体则为本可等待的工作支付峰值价格。多日 prompt caching 和 Background Mode 降低了这两项成本。

专用模型也可以改善推理经济性。Ember-1 是 Fireworks 的一款模型,可在 serverless 和专用部署中使用,在我们的评估中,它在保持与 Kimi K3 相当质量的同时,使用的 token 减少了约 40%。

图 2:Ember-1 在五项行业基准上处于质量-成本前沿,得分与 Claude Opus 5 相差约一分,而每任务成本约为其五分之一。来源:Introducing Ember-1

这些能力共同帮助团队将推理性能和支出与每个工作负载的需求相匹配。

Fireworks Nexus:在员工已使用的工具中提供更多模型选择

员工越来越依赖 AI 进行编码和日常工作,但切换模型可能意味着离开熟悉的工具或增加另一个需要管理的订阅。企业需要在为员工提供更多模型选择的同时,保持对支出的可见性。

Fireworks Nexus 将开放模型引入人们已在使用的 AI 编码和协作工具中,与现有的 AI 订阅并存。它结合了开放与闭源模型,具备个性化模型选择和缓存感知能力,帮助人们使用适合其工作的模型,同时为组织提供集中化的支出可见性和控制。

图 3:Fireworks Nexus 按模型追踪当月每一天的支出,并将其与估算的全 Opus 5.5 基线进行比较,以便财务部门了解每一美元的流向以及路由节省了多少。

今天我们推出了 Nexus Desktop,与 Nexus CLI 一同面世。Nexus 现已在 Codex 应用、Claude Desktop 和 OpenCode 中运行,将个性化模型选择从编码扩展到日常知识工作。新的 Pro 计划每月 8 美元起,Teams 计划每席位每月 10 美元起。企业计划增加了 SSO、治理、共享预算和访问控制。

图 4:Nexus Desktop 通过每个工具一个开关,将你每天使用的工具连接到 Nexus,让团队无需接触终端即可获得模型路由。

随着工作负载增长,现已正式可用的更高 serverless 速率限制让团队能够并发运行更多工作,而无需预留专用容量。同样已正式可用的 Elastic Burst 允许客户在有可用闲置容量时超出其正常使用上限,且无需更改代码或定价。

训练:将你的专业知识转化为更好的模型

选择合适的模型可以改善结果并降低成本。训练则更进一步,教会模型什么才是适合你特定任务的“好”。这可能意味着超越现有模型的质量,或者从更小、更快的模型中获得所需的性能。通常两者兼而有之。在 Forge 大会上,我们让实现这些收益并将其投入生产变得更加容易。

这首先要从了解需要改进什么开始。No Eval 现已进入私有预览,可帮助将生产追踪和产品信号转化为针对具体任务的评估,让团队能够找出模型在哪些方面存在不足,并衡量训练是否缩小了这一差距。这解决了训练自有模型的最大障碍之一,因为编写自己的评估可能需要数周的数据标注和评分工作。

图 5:将生产反馈转化为你的训练循环。

专用模型推理(Specialized Model Inference)现已进入公开预览,将无服务器方式扩展到 LoRA 适配器的服务,首发支持 GLM 5.3 Flash。团队可以评估训练好的模型,并通过 Fireworks Serverless API 以按 token 计费的方式提供服务,无需为专用部署规划容量,闲置时也不产生服务费用。他们可以在试验下一个版本的同时继续使用现有模型。

企业级管控,无论模型需要在何处运行

随着 AI 进入关键业务流程,企业需要治理模型使用、控制支出并维护活动记录。一些企业还需要对 AI 基础设施的运行位置和数据保护方式拥有更大的控制权。

Fireworks 现已正式提供模型治理、支出控制和可导出的审计日志。集中式账户管理、区域数据控制和客户管理加密的预览版进一步扩展了这些能力,满足运营要求更严苛的组织需求。

对于希望利用自有基础设施的企业,Fireworks Sovereign 现已进入私有预览,将公司的推理引擎带入客户的云、neocloud 或数据中心。它结合了可将每 GPU 美元对应的 token 数翻倍甚至更多的技术,以及可降低总拥有成本的专业管理,帮助客户在所选基础设施内运行开放模型。

推理和训练在客户的环境中运行,遵循其已实施的安全和变更控制策略。受监管的企业可以在其治理的基础设施上满足数据驻留和模型访问要求,AI 容量也留在其选择的司法管辖区内。由于客户拥有基础设施并选择模型,提供商的价格变动或模型退役无法左右其路线图。Fireworks 已在客户环境中管理超过 25,000 块 GPU。

图 6:Fireworks Sovereign 在你的 GPU 上、在你的边界内运行推理,并通过与 Serverless 和 Hyperscaler Marketplace 部署相同的控制平面进行管理。

打造你自己的前沿

总体而言,Forge 大会发布的产品让专用智能的构建、改进和部署更加切实可行。更快的推理支持响应迅速的智能体;Nexus 将模型选择带入员工的日常工作;训练能力帮助公司提升在自身任务上的表现;企业级管控支持大规模部署。

要在线参加 Fireworks Forge,请注册观看直播。

公告

来源

Fireworks AI