隆重推出 Sarvam PrismIntroducing Sarvam Prism2026年11月3日·阅读时长8分钟

今天我们发布 Sarvam Prism,这是一个基于 Sarvam 105B 构建的 System One 决策模型。

Typeface 上个月开创了这一类别,并以卡尼曼的 System One 思维为其 Jev 模型命名——这是一种快速而直觉的判断模式,人们一天中的大多数决定都由它来处理。企业中的大量工作正是由一连串这样的决策构成,而经过良好校准的决策模型恰好能无缝融入这些工作流程。

业界领先的准确率与速度: 在我们测试的 25 个决策模型中,Prism 在准确率与速度的帕累托前沿上树立了新的标杆。该模型得分为 71.8,而在 B200 GPU 上的响应时间仅为 44 毫秒,是我们测试的 25 个模型中 100 毫秒以内得分最高的模型(按三项指数取平均)。我们相信 System One 模型会随规模提升而改进,并能从混合专家架构的权衡中获益,因此 Prism 基于 Sarvam 105B-10B 基座训练。

企业可以信赖的校准: 企业要实现工作流程自动化,就必须信任模型对其输出所给出的置信度。Prism 的误差始终落在其置信区间之内,而且其答案不受选项呈现顺序的影响。

打造属于你自己的模型: 每个企业都有自己做出决策的方式,这由其数据以及这些决策的结果所塑造。我们以开放权重的方式发布 Prism,以便企业能在这一经过校准的基座上用自己的数据训练,并在自己的基础设施上运行。

准确且快速

我们在相同的基准上,亲自用三项指数对 Prism 及其他 24 个决策模型进行了测试。对于所有能在相同硬件(B200)上运行的模型,我们都使用其自带的推理代码进行了计时。

准确且快速

三项指数平均得分与中位响应时间对比,25 个决策模型

  • Sarvam Prism
  • 由我们计时
  • 仅提供 API(报告时间)
  • 各响应时间下的最佳得分
平均得分 ↑586266707478050100150200250300帕累托前沿mammoth-1GLiDE 1.2elephant-1d3-ultraTorchcast-27BClefOneJev-9BJev 1.14Microsoft-Decision-1KnowLine-35BSarvam Prism 71.8每次请求的中位响应时间(毫秒)→

Sarvam Prism:71.8 分,44 毫秒

各模型的三项指数平均得分与中位响应时间 * 公开报告的响应时间;这些模型仅提供 API。
模型平均JevArtificial Analysis印度语言响应时间(毫秒)
mammoth-175.275.370.280.1284
GLiDE 1.273.272.068.179.4116
Sarvam Prism71.867.065.982.544
elephant-171.372.267.674.0145
StartLux-27B70.872.961.578.1117
KnowLine-35B70.870.759.282.650
d3-ultra70.371.662.876.4229
KnowLine-26B69.168.257.681.463
AutoTrust-JEV-27B68.567.360.777.672
OneJev-27B68.469.658.377.227
H2O-Lightning-31B68.267.959.976.746
Perplexity Decider v1.268.067.761.275.0117
d366.965.560.375.0115
Torchcast-27B66.565.159.674.832
StartLux-9B66.270.058.869.860
VisionJEV65.366.457.372.3117
Jev 1.1464.560.761.970.8196*
Amos 1 large63.464.955.569.7121
StartLux-4B63.367.858.463.760
KnowLine-4B63.166.857.065.643
OneJev-9B62.865.353.469.610
Clef62.661.754.871.2222
Microsoft-Decision-161.157.855.670.085*
Perplexity Decider Flash60.360.158.462.462
Clef-Flash58.156.252.166.0162

越靠左上越好。响应时间为在单块 NVIDIA B200 GPU 上每次请求的中位数。

各指数得分

各指数及其平均值,附中位响应时间(越高越好)

  • Sarvam Prism(44 毫秒)
  • Perplexity Decider v1.2(117 毫秒)
  • Jev 1.14(196 毫秒*)
  • Clef(222 毫秒)
  • Microsoft-Decision-1(85 毫秒*)
Jev 决策指数Sarvam Prism67.0Perplexity Decider v1.267.7Jev 1.1460.7Clef61.7Microsoft-Decision-157.8Artificial Analysis(我们自建)Sarvam Prism65.9Perplexity Decider v1.261.2Jev 1.1461.9Clef54.8Microsoft-Decision-155.6印度语言Sarvam Prism82.5Perplexity Decider v1.275.0Jev 1.1470.8Clef71.2Microsoft-Decision-170.0平均Sarvam Prism71.8Perplexity Decider v1.268.0Jev 1.1464.5Clef62.6Microsoft-Decision-161.1405060708090得分,坐标轴从 40 开始
各指数得分及其平均值,按模型列出
指数Sarvam PrismPerplexity Decider v1.2Jev 1.14ClefMicrosoft-Decision-1
Jev 决策指数67.067.760.761.757.8
Artificial Analysis(我们自建)65.961.261.954.855.6
印度语言82.575.070.871.270.0
平均71.868.064.562.661.1

* 公开报告的响应时间;这些模型仅提供 API。

该得分是三项指数的平均值。第一项是 Jev 决策指数,包含 37 个公开基准。第二项是我们对 Artificial Analysis 决策指数的复现,其中我们将其私有知识测试替换为精心挑选的难题,并包含一个“我不知道”选项。第三项是内部的印度语言基准。响应时间是对 1000 次逐一发送的请求取中位数,每个模型均运行其开发者自己的推理代码。Jev 1.14 和 Microsoft-Decision-1 仅通过 API 提供,因此我们标绘的是其报告时间(196 毫秒和 85 毫秒)。从我们的集群实测,它们分别耗时 431 毫秒和 533 毫秒。

在 100 毫秒以内作答的所有模型中,Prism 的平均得分最高。有几个模型的总体得分更高,但它们的响应时间要长两到六倍。Prism 最强的结果出现在我们复现的 Artificial Analysis 难题上——由于其决策经过校准,模型会因回答“我不知道”而非猜测而获得奖励。在印度语言方面,它的表现与我们测试的最佳模型相当或更好。

值得信赖的置信度

企业实现决策自动化的方式是仅在置信度高于某一阈值时才采取行动。只有当输出的置信度经过校准——即其错误率应低于模型的预期错误率——这样做才是安全的。我们在 Jev 决策指数的公开基准和我们内部的印度语言基准上评估了校准情况。

值得信赖的置信度

以至少 90% 置信度给出的答案的预期错误与实际错误(越低越好)

  • 模型预期的错误
  • 实际:Sarvam Prism
  • 实际:不超过预期
  • 实际:高于预期(×N)
英语Sarvam Prism3.32.2Clef2.82.3Perplexity Decider1.42.0×1.5Microsoft-Decision-11.73.1×1.8Jev 1.141.33.5×2.70%1%2%3%4%5%错误率(占高置信度答案的百分比)印度语言Sarvam Prism5.44.4Clef3.915.3×3.9Perplexity Decider3.08.1×2.7Microsoft-Decision-13.010.1×3.3Jev 1.143.416.1×4.80%5%10%15%20%错误率(占高置信度答案的百分比)
在置信度不低于90%时的预期错误与实际错误
模型英语:预期英语:实际印度语言:预期印度语言:实际
Sarvam Prism3.3%2.2%5.4%4.4%
Clef2.8%2.3%3.9%15.3%
Perplexity Decider1.4%2.0%3.0%8.1%
Microsoft-Decision-11.7%3.1%3.0%10.1%
Jev 1.141.3%3.5%3.4%16.1%

英语:37个公开基准,226,088道题。印度语言:同样的基准在10种印度语言和印地英语(Hinglish)下的版本,20,108道题。

在我们测试的从50%到95%的每一个阈值上,无论英语还是印度语言,Prism的实际错误都少于其置信度分数所预测的错误。 对于置信度在90%或以上的英语答案,Prism预测错误率为3.3%,实际错误率为2.2%。Clef与之接近,预测2.8%,实际2.3%。Perplexity Decider、Microsoft-Decision-1和Jev 1.14分别将自身错误低估了1.5倍、1.8倍和2.7倍。

在印度语言方面,Prism预测错误率为5.4%,实际错误率为4.4%。其他模型的实际错误率是其置信度分数所预测的2.7到4.8倍。

同一答案,任意顺序

改变选项顺序可能会改变模型的答案。我们在2,000道题上测试了Prism是否会出现这种情况。我们将这些题目在打乱选项的情况下运行四次,在未打乱的情况下运行四次。Prism的答案在每一次打乱中都保持不变,且没有额外的计算开销,也没有准确率损失。

同一答案,任意顺序

2,000道题中答案发生变化的题目占比(越低越好)

  • 选项被打乱为四种顺序
  • 同一请求重复发送四次
  • Sarvam Prism
Sarvam Prism,固定顺序0.0%0.0%Clef0.1%0.0%Sarvam Prism,按发送顺序排列选项4.0%0.0%Microsoft-Decision-14.8%4.8%mammoth-18.8%0.0%GLiDE 1.28.9%0.0%Perplexity Decider v1.210.3%0.0%Jev 1.1412.3%5.6%0%5%10%15%答案发生变化的题目占比(%)
按模型划分的答案发生变化题目占比
模型打乱顺序95%区间重复发送
Sarvam Prism,固定顺序0.0%0至0.2%0.0%
Clef0.1%0至0.4%0.0%
Sarvam Prism,按发送顺序排列选项4.0%3.3至5%0.0%
Microsoft-Decision-14.8%3.9至5.8%4.8%
mammoth-18.8%7.6至10.1%0.0%
GLiDE 1.28.9%7.7至10.2%0.0%
Perplexity Decider v1.210.3%9至11.7%0.0%
Jev 1.1412.3%11至13.9%5.6%

Perplexity Decider、GLiDE 1.2和mammoth-1对同一请求给出相同答案,但当选项被打乱时,它们有9%至10%的答案会发生变化。Jev 1.14在没有任何变化时有5.6%的答案发生变化,在打乱时有12.3%的答案发生变化。Prism按发送顺序读取选项,对同一请求给出相同答案,在打乱时有4.0%的答案发生变化。Prism通过在评分前将选项放入一个固定顺序(无论它们以何种顺序到达),并以原始选项名称返回每个概率,从而弥合了这一差距。经过这一步,它在2,000道题中有0道题的答案发生变化。

我们已在真实场景中测试了Prism,例如语音到语音测试框架、轨迹评估、提示注入防护、客户支持意图路由、模型路由和文档智能。

我们正在分享一些早期基准测试结果,并将在未来陆续发布更多。

智能体轨迹评估

智能体的工作需要核查,既要判断任务是否成功,也要判断该次运行是否需要人工复核。我们使用了三组已记录的运行数据。AgentRewardBench包含在AssistantBench、VisualWebArena、WebArena和WorkArena上的网页智能体运行记录,由专家标注。τ-bench包含客户服务对话,按任务是否完成进行标注。Who&When和TRAIL包含失败的运行记录,标注了出错的步骤和负责的智能体。所有五个模型都在相同的700次运行(1,770道题)上进行了评分。

每个答案都与已知的正确标签进行核对,绝不依赖另一个AI模型的判断。对于任务是否成功或是否需要复核,标签来自审阅了每次网页智能体运行的人类专家(AgentRewardBench),或来自环境对最终结果的自动检查(τ-bench)。对于哪个智能体导致了失败,人工标注者在每次失败的运行中标记了负责的智能体(Who&When、TRAIL)。

评判智能体运行

评判700次已记录智能体运行的准确率(越高越好)

  • Sarvam Prism
  • Clef
  • Jev 1.14
  • Microsoft-Decision-1
  • Claude Haiku 5.5
任务是否成功?Sarvam Prism75.0%Clef71.6%Jev 1.1471.8%Microsoft-Decision-171.3%Claude Haiku 5.566.0%该次运行是否需要人工复核?Sarvam Prism86.4%Clef80.4%Jev 1.1481.9%Microsoft-Decision-183.4%Claude Haiku 5.577.9%哪个智能体导致了失败?Sarvam Prism69.6%Clef60.9%Jev 1.1465.2%Microsoft-Decision-145.7%Claude Haiku 5.537.0%所有问题Sarvam Prism78.5%Clef76.4%Jev 1.1476.4%Microsoft-Decision-175.7%Claude Haiku 5.570.7%0%25%50%75%100%准确率(%)
按模型划分的智能体运行评判准确率
问题Sarvam PrismClefJev 1.14Microsoft-Decision-1Claude Haiku 5.5
任务是否成功?75.0%71.6%71.8%71.3%66.0%
该次运行是否需要人工复核?86.4%80.4%81.9%83.4%77.9%
哪个智能体导致了失败?69.6%60.9%65.2%45.7%37.0%
所有问题78.5%76.4%76.4%75.7%70.7%

“所有问题”还包括重复循环、副作用、运行首次出错的步骤以及错误类型。

Prism在单块GPU上评判一次完整的智能体运行大约需要半秒。它读取一次轨迹,并同时评判全部五个问题。通过API调用的Claude Haiku 5.5每次运行的中位耗时为2.5秒,每1,000次运行的成本为0.64美元。这使得Prism成为更快、更便宜的替代方案。Prism每道题还可处理多达131,072个token,因此长轨迹可以一次性评估,而无需分块。

智能体安全防护

该测试使用一个包含九类任务、共5,517道题的内部基准,题目基于2026年7月以来公布的漏洞构建。模型需要判断某个工件是否属于钓鱼活动的一部分、传入的提示是否试图越狱,并将攻击类型归类到MITRE框架中。

我们将在未来几周内扩充该评估集并公开发布。

安全决策

在我们内部网络安全基准(5,517道题)上的准确率(越高越好)

Sarvam Prism89.0%Clef84.5%Jev 1.1478.6%Microsoft-Decision-176.1%50%60%70%80%90%100%准确率(%),坐标轴从50%开始
按模型划分的内部网络安全基准准确率
模型准确率
Sarvam Prism89.0%
Clef84.5%
Jev 1.1478.6%
Microsoft-Decision-176.1%

Prism 得分为 89.0%,领先于 Clef(84.5%)、Jev 1.14(78.6%)和 Microsoft-Decision-1(76.1%)。

工作原理

Prism 是 Sarvam 105B 的 LoRA 微调版本。它以状态、问题和选项作为输入,并在单次前向传播中处理它们。一个小型评分头为每个选项返回一个概率,无需逐 token 生成。

训练目标

Prism通过两个等权重的损失项学习选项上的概率分布。第一个是带5%标签平滑的交叉熵,它抑制完全确定性。第二个是Brier损失,它衡量概率的平方误差,使自信的错误代价高昂。我们将Prism的校准归因于这两个训练选择。

注意力掩码

状态和问题构成一个双向读取的块。每个选项能看到该块和自身,但永远看不到其他选项,且每个选项都从相同位置开始。只有答案token能看到一切,选项正是在那里进行比较。隔离选项使每个判断相互独立。在块内双向读取在Jev决策指数上增加约3分。

各token间的注意力可见性

一个问题两个选项的三个注意力掩码

  • 状态
  • 问题
  • 选项A
  • 选项 B
  • 答案
  • 被屏蔽
标准:从左到右SQABAnsSQABAns块,内部从左到右SQABAnsSQABAns棱镜:块,双向SQABAnsSQABAns

行:执行读取的词。列:它能看到的词,按类别着色。S = 状态,Q = 问题,A 和 B = 两个选项,Ans = 答案 token。

中间到右侧:在 Jev 决策指数上约 +3 分。

状态和问题块是完全双向的,因此标准未掩码内核可以精确计算它。只有选项和答案行组成的细条需要自定义掩码。以这种方式拆分计算,使超过 2048 个 token 的请求的注意力速度提升 2.6 倍。FP8 使 Jev 决策指数得分变化了 0.01 分。总的来说,这些步骤使 Prism 的速度提升 15.1 倍。

一个注意力掩码,分两部分计算

Prism 针对一个问题两个选项的掩码

  • 快速内核,无需掩码
  • 掩码内核,仅这些行
  • 分块
状态问答答案状态问答答案状态 + 问题:一个完整的方块快速内核,无需掩码选项 + 答案:一条细条带掩码内核,仅这些行

行:执行读取的词。列:它能看到的词。Q = 问题,A 和 B = 两个选项,Ans = 答案 token。

让它变快

Prism 最初每个中位请求耗时 664 毫秒,在两块 B200 GPU 上以 16 位精度运行。我们将权重转换为 FP8,使模型能装入单块 GPU,在一个分组内核中运行全部 128 个专家,将前向传播捕获为 CUDA Graph,把 FP8 转换折叠进专家内核,并将微调适配器合并到模型权重中。这些措施共同将中位请求时间降至 44 毫秒,比最初快 15 倍,且精度没有下降。

使用 Prism

Prism 的权重已发布在 Hugging Face 上,采用 Apache 2.0 许可证. Prism 以 FP8 精度在单块显存至少 120 GB 的 GPU 上运行。它也可通过 Sarvam API 在 Sarvam Indus上使用。每个请求接收一个状态、一个问题以及任意数量且能放入上下文窗口的选项,并为每个选项返回一个概率。文档可在 此处获取。.