Fireworks 推出 Free Weights Club,Muse Glimmer 30B 免费 SFT 训练
Train Muse Glimmer for free: Our recipe for out-betting Jev
Fireworks AI 推出 Free Weights Club,Muse Glimmer 30B 的 SFT 训练在 11 月 30 日前免费,无需信用卡,推理与评估调用另行计费。用 Kalshi 市场数据训练出的 tuned Glimmer 在未见主题上预测准确率 58.3%,比 Jev 的 47.1% 高 11.2 个百分点;历史回测中假设的 1000 美元在计入模拟手续费后变为 1071 美元,base Glimmer 和 Jev 均为亏损。System One 服务栈在另一项合成基准中,中位服务端处理速度比标准 BF16 chat completions 快 2-3 倍。
正文 · AI 翻译
TL;DR
Muse Glimmer 30B 在 11 月 30 日前可免费进行监督微调(SFT)训练,由此启动我们的 Free Weights Club。
经调优的 Muse Glimmer 在未见主题上的预测准确率比 Jev 高出 11.2 个百分点,达到 58.3%,而 Jev 为 47.1%。在历史回测中,计入模拟交易手续费后,它还将假设的 1,000 美元变成了 1,071 美元,而 Jev 和 base Glimmer 均出现亏损。
在另一项合成基准测试中,Fireworks 优化的 System One 服务栈的中位服务器处理速度比标准 BF16 chat completions 快 2-3 倍。两者使用相同的适配器和单块 B200 GPU;区别在于精度和运行时。
用 Kalshi cookbook 试试我们的实验。对于你自己的项目,Managed Training 可根据你的示例运行 SFT 作业,而 Serverless Training API 则让你掌控训练循环。
欢迎来到 Fireworks Free Weights Club。在限定时间内,我们将为你带来新的后训练研究、可在此基础上构建的配方,以及针对一款精选模型的免费训练,让你能够运行自己的实验。
首先登场的是:Muse Glimmer 30B,SFT 训练在 11 月 30 日前免费。它支持多模态,在同等成本下性能强劲,是个人智能体的绝佳起点。
我们将训练出的版本称为 tuned Glimmer,将原始模型称为 base Glimmer。在预测准确率上,tuned Glimmer 领先于两个对比模型。在历史回测中,计入模拟手续费后,它将假设的 1,000 美元变成了 1,071 美元,而两个对比模型均出现亏损。
以下是我们训练了什么、如何测试,以及你如何自行尝试。
免费开始训练。
构建数据集
Jev 给了我们一个要超越的模型;Kalshi 给了我们一种记分方式。
已结算的市场自带答案:以“纽约最高气温会超过 80°F 吗?”为例。市场一旦结算,就有了可用于核对预测的结果。难点在于学到能迁移到下一个问题的东西。
每个示例都包含市场的标题、描述、规则和日期,并以已结算的结果作为标签。模型没有看到市场价格或新闻。
我们将训练、校准和评估分开进行:
训练:来自 6,461 个事件的 20,051 个问题,这些事件在 2026 年 1 月 4 日之前结算。
校准:来自 2,000 个事件的 6,232 个问题,这些事件在 1 月 11 日或之后开放,并在 2026 年 4 月 1 日之前结算。
评估:来自 8,765 个事件的 33,712 个问题,这些事件在 2026 年 4 月 8 日或之后开放。
在评估集中,有 3,567 个问题来自 113 个主题族,这些主题族被排除在训练和校准之外。我们报告完整测试集和该未见主题子集的结果,以考察 Glimmer 对后续事件和不熟悉主题的处理能力。
我们移除了近似重复的输入、市场开放后所做的规则修改,以及可能泄露结果的后来添加的获胜选项。每个测试事件只评估一次。
一次训练,更好的预测
这些问题已经有一组可能的答案。我们使用 Fireworks Training API 和 K 路交叉熵损失来训练 Glimmer,使其为正确结果分配更高的概率。该损失只考虑该问题的答案选项,而不是模型的完整词表。
我们使用 SFT 训练了一个 LoRA 适配器,对训练数据进行了一次遍历。
在完整测试集上,tuned Glimmer 达到 64.8% 的准确率,而 base Glimmer 为 56.4%,Jev 为 45.9%。
在未见主题上,tuned Glimmer 达到 58.3%,领先于 base Glimmer 的 53.2% 和 Jev 的 47.1%。这使它在训练中未遇到过的主题族上领先 Jev 11.2 个百分点。
常见答案参照基准对是/否问题总是选择“否”,对多项选择题则选择最常见的正确选项位置。它使用评估答案来建立该参照,因此它提供的是背景参考,而非代表一个经过训练的预测器。
一点信心大有帮助
51% 的预测和 90% 的预测可能都落在“是”上,但我们会希望区别对待这两种判断。在使用 tuned Glimmer 的概率来选择和下注规模之前,我们根据观测结果校准了它的置信度。
我们使用留出的校准集,为每种问题类型拟合了单独的校准温度。这会在不重新训练权重的情况下重新缩放 tuned Glimmer 的概率。目标是:被赋予 80% 概率的预测应在大约十次中应验八次。
只有 tuned Glimmer 接受了这一校准步骤,base Glimmer 既没有接受任务特定训练,也没有接受校准。我们直接使用 Jev API 提供的概率,未做额外校准,这与其预期的开箱即用方式一致。
图表显示了评估数据上的准确率减去置信度。越接近零越好;负值表示过度自信,正值表示信心不足。
Tuned Glimmer 的自信并非虚张声势。当它给出至少 80% 概率的答案时,有 86.8% 的情况下是正确的,无论是在完整测试集还是在未见主题子集中都是如此。
它同样具有选择性:14.4% 的完整测试问题和 6.1% 的未见主题问题越过了该阈值。按置信度筛选后,我们的预测数量减少了,但命中率大幅提高。
这些高置信度判断存在一种模式。许多是对相关阈值问题的“否”回答,例如某个值是否会超过 100、110 或 120。这些结果往往同向变动,因此正确的预测并非都是彼此独立的成功。
你会为此下注吗?
高置信度的预测仍然需要一个值得的价格。如果一次下注获胜时支付 1 美元,而模型估计获胜概率为 80%,那么其预期回报为 80 美分。我们的规则要求购买价格加上建模费用至少比该估计低 5 美分。
我们给每个模型 1,000 美元的假设资金,用于分配到符合条件的下注上。每个模型都使用相同的规则和同一组符合条件的历史报价。一个结果必须具有超过 50% 的预测获胜概率,概率越高获得的分配越大。
我们使用每个市场开盘后两小时或之前最后一个完成的每小时买价/卖价报价。模型从未看到这些价格;我们在事后使用它们来决定哪些下注符合条件。
计入建模交易费用后,Tuned Glimmer 的分配最终为 1,071 美元(+7.1%),而 base Glimmer 为 950 美元(−5.0%),Jev 为 919 美元(−8.1%)。我们很高兴让后两者的亏损停留在假设层面。
该回测将固定预算分散到历史下注上,包括相互重叠的下注,而不是模拟现金随时间再投资。它允许分数合约,且未对流动性、滑点或历史费用变化进行建模。
结果在多大程度上取决于测试中恰好包含哪些事件?我们通过对整个事件进行重采样来估计不确定性,并将相关下注保持在一起。Tuned Glimmer 的 90% 事件自助法区间为 +1.6% 至 +12.4%。
仅在未见主题上,一笔单独的 1,000 美元分配回报了 15.2%,但其更宽的区间 −2.9% 至 +33.5% 仍然包含亏损。这些区间捕捉的是事件之间的变异,而非模型选择或交易执行中的所有不确定性来源。
我们有理由继续测试。该结果在真实资金下是否依然成立,仍是一个未解的问题。
用 System One 更快地做出决策
对于这项任务,我们需要一组固定答案的概率。生成书面回复增加了我们可以跳过的工作。
Fireworks 的 System One API 直接读取选项概率,而不生成答案文本。它还将关于共享上下文的多个问题打包到一个请求中。每个问题都可以使用该上下文,而无需关注其他问题分支,因此我们可以复用上下文,同时保持各项决策相互独立。
在一项单独的合成基准测试中,System One 使用相同的适配器和单块 B200 GPU,中位服务器处理速度比标准 BF16 聊天补全快 2-3 倍。在每次请求 16-32 个问题时,它每秒做出的决策数最多提高 3.6 倍。
精度和运行时间有所不同,因此这些结果比较的是完整的服务栈。该基准测试与和 Jev 的 Kalshi 对比是分开的。
该 cookbook 包含通过 /inference/v1/systemone 提供训练后模型服务的说明。
你会训练 Muse Glimmer 做什么?
你不需要有交易方面的雄心就能尝试这个。你的第一个实验可以从一个你已经纠正过太多次的错误开始。
也许你的智能体总是选错工具。如果你保存它的运行记录,成功的调用和已纠正的错误就可以成为 SFT 的示例。用其中一些训练,用另一些测试,看看你是否让这种纠正发生得更少。
自己尝试 Kalshi 实验。该 cookbook 包含代码、评估结果和方法论,并引导你使用 Training API 完成该实验。
对于你自己的实验:
让 Fireworks 运行任务。将你的示例带到 Managed Training,在应用中或通过 API 开始。
掌控你的训练循环。使用 Serverless Training API 编写你自己的 SFT 循环。
让你的编码智能体投入工作。按照 Agent Skills 指南安装 Fireworks 训练技能,然后描述你想训练的内容。
Muse Glimmer 30B 在 11 月 30 日前可免费进行 SFT 训练,无需信用卡。推理(包括评估调用)另行计费。
公告
训练