Google Launches Gemini Decisions API, Judging Up to 1,000 Questions per Call with Free Output Tokens
English text is being prepared.
Google has launched the Gemini Decisions API, invoked through the Gemini Decision 1 released the same day, which can make yes/no judgments, multiple-choice selections, and graded scoring on up to 1,000 preset questions at once, supports text, image, audio, video, and PDF inputs, and does not charge for output tokens. Pricing is $0.1 per million input tokens; Google says that with 16K-token multimodal input, median compute latency is 50 to 100 milliseconds and end-to-end latency is 150 to 250 milliseconds, at about one-fifth the cost of Gemini 3.5 Flash-Lite. Developer Lesia Kaplyuk tested 54 calls; all 30 customer service tickets and 8 multilingual tasks were classified correctly, and processing 100 questions in a single call took 0.41 seconds, but when no fallback option was set, the model forced out-of-scope inputs into existing categories. The API is already used in Google internal products such as Gemini Notebook and Stitch, and Google Search also uses it for security protection of MCP tools.
Why read this
AI score 73
The original article provides pricing, latency, and developer test data, which can be used to assess the applicable boundaries of this type of judgment API in classification and routing scenarios.
Topics
Body
智东西11月12日消息,今日,谷歌宣布推出Gemini Decisions API,该API可通过同日新发布的模型Gemini Decision 1调用。与传统生成式模型不同,Gemini Decision 1可以直接评估输入内容,并针对最多1000个预设问题一次性作出判断。该模型支持文本、图像、音频、视频和PDF等多模态输入,且不收取输出Token费用。
性能方面,谷歌称,在最多16K Token的多模态输入场景下,Gemini Decision 1的中位模型计算延迟为50至100毫秒,端到端延迟为150至250毫秒。
价格方面,Gemini Decision 1每百万输入Token收费0.1美元(约合人民币0.67元),输出Token免费,其成本约为Gemini 3.5 Flash-Lite通过Interactions API调用成本的五分之一。
API上线后,网友对此的评价不一。一名用户认为:“炒了这么久,结果就这?不过,我确实会用它来做路由。只为了回答是或否就让一个聊天模型专门生成一整段话,一直让我觉得有些大材小用。但这也算不上多么创新,类似的东西我们已经见过不少了。”
另一名用户则提出了一个实际问题:“如果给出的选项都不正确,它会怎么回答?总体来说,我很高兴看到这项功能,尤其是它支持多模态输入,这对我的资产分类工作很有用。”
还有用户则提到,这项API的价值取决于实际速度表现:“如果它真的比让普通模型直接作出判断更快,那就很有意思。我宁愿两秒钟就得到答案,也不想等一段自己根本不需要的长篇解释。”
同日,个人开发者莱西亚·卡普利尤克(Lesia Kapliuk)使用免费API密钥进行了实测。其中,模型在54次调用、30条客服工单和8项多语言任务全部分类正确,单次处理100个判断问题仅耗时0.41秒,但莱西亚发现模型会将超出预设范围的输入强行归入已有类别。
目前,Gemini Decisions API已用于Gemini Notebook等谷歌内部产品,谷歌搜索也将其用于模型上下文协议(MCP)工具的安全防护。开发者可以通过谷歌AI Studio获取API密钥,并使用免费API额度进行原型开发。
一、支持三类判断方式混用,单次请求最多处理1000个问题
Gemini Decisions API通过三类判断方式处理开发者预先定义的问题,分别是是非判断(Yes/No)、多项选择(Multiple Choice)和分级评分(Ordered Rubric),而这三种方式可以在同一次请求中混合使用。
是非判断用于估算某个条件成立的概率,开发者还可以分别设置条件成立和不成立时的描述标准。多项选择支持2至255个候选项,模型会选出最符合要求的选项,并返回每个候选项对应的归一化概率。分级评分则按照从0开始的有序标准对输入内容进行评估,返回加权后的连续分数,以及各个评分等级对应的概率。
三种判断方式均会附带0至1之间的置信度分数。开发者可以根据置信度设置处理规则,例如将模型无法确定的结果交给备用模型处理,或者转交人工审核。
在多模态处理方面,Gemini Decision 1基于Gemini原生多模态架构,可以在一次模型计算中直接处理文本、图像、音频、视频和PDF文件。不同类型的内容可以组合在同一份输入中,例如将通话录音与账户信息放在一起分析,或者将PDF保险理赔文件与现场受损照片结合起来判断。
开发者还可以调整图像和视频的分辨率,以控制模型需要识别的画面细节和Token消耗。单次请求最多支持256K Token的输入内容,并可针对同一份输入设置最多1000个独立问题。
谷歌还给出了一个实际应用示例。开发者可以上传一张休息室台面的照片,并附上一段文字说明,让模型同时判断台面上是否存在未清理的液体、应该采取哪种清洁措施,以及现场脏乱程度。
其中,模型需要判断是否存在液体污渍,在擦拭台面、安排清洁人员和无需处理三种行动中作出选择,并按照清洁完毕、轻微局部污渍和严重污渍或安全隐患三个等级进行评分。三项任务可以通过一次请求完成。
目前,谷歌内部已有Gemini Notebook、Stitch等多个产品接入Gemini Decisions API,将其作为低延迟的决策控制层。开发者只需预先定义判断选项,就可以让模型完成任务分配,不必额外训练专用分类器,也无需等待生成式模型输出完整答案。
此外,谷歌搜索也将Decisions API用于模型上下文协议(Model Context Protocol,MCP)工具的安全防护层,帮助识别对抗性行为和相关内容,在控制响应延迟的同时提高检测效果。
二、响应延迟最低50毫秒,成本不到生成式模型的五分之一
在运行机制上,Gemini Decision 1与传统生成式模型有所不同。
传统生成式模型通常需要逐个生成Token,再组合成完整答案。Gemini Decision 1则直接对开发者预先设定的候选选项进行评分,通过一次模型向前计算返回概率和置信度,不需要逐个生成答案Token。
谷歌称,在包含智能体路由、推理、排序和多模态理解的基准测试中,Gemini Decision 1整体表现领先,校准误差也是参与测试的API中最低的。
在最多16K Token的多模态输入场景下,该模型的中位模型计算延迟为50至100毫秒,端到端延迟为150至250毫秒。当单次请求的问题数量从1个增加到100个时,响应延迟基本保持稳定。
成本方面,由于同一请求中的共享输入只计费一次,因此增加判断问题时,用户只需额外支付各问题对应的指令和评估标准所消耗的Token费用。
在双方共同参与的基准测试中,与通过Interactions API调用的Gemini 3.5 Flash-Lite相比,Gemini Decision 1搭配Decisions API的成本接近降低80%,约为Gemini 3.5 Flash-Lite的五分之一。
Gemini 3.5 Flash-Lite每百万输入Token收费0.3美元(约合人民币2.01元),每百万输出Token收费2.5美元(约合人民币16.75元)
Gemini Decision 1每百万输入Token收费0.1美元(约合人民币0.67元),不收取输出Token费用、额外的思考Token费用,以及单独的音频转写和OCR文字识别费用。
在调用额度方面,Gemini Decisions API分为免费和付费两档。
免费版每分钟最多发起200次请求,每分钟最多处理5万个Token,每天最多发起1万次请求。
付费版每百万输入Token收费0.1美元(约合人民币0.67元),输出Token免费。在Tier 1等级下,每分钟最多发起1500次请求,每分钟最多处理100万个Token,每天最多发起5万次请求。
三、开发者实测54次调用,100个问题耗时增加70%
个人开发者莱西亚·卡普利尤克(Lesia Kapliuk)于11月11日发布了Gemini Decision 1的API实测结果。该开发者使用免费API密钥进行了54次调用,测试了模型的分类准确率、多语言处理能力、批量判断效率和结果稳定性。
在实际测试中,该开发者提交了30条客服工单,要求模型将工单分配至对应团队,30条工单全部正确分类。在多语言测试中,模型处理了乌克兰语、德语、西班牙语、波兰语和日语等语言的8项任务,也全部给出了正确结果。
批量处理方面,该开发者分别测试了单次请求包含1个、10个和100个判断问题的情况。结果显示,处理1个问题和10个问题时,中位响应时间均为0.24秒;问题数量增加至100个后,响应时间上升至0.41秒,增加约70%。
对应的Token消耗也随问题数量增加而上升。单次处理1个问题消耗135个Token,10个问题消耗613个Token,100个问题消耗5473个Token。此外,相同请求重复提交5次,模型返回的结果和概率完全一致。
这项测试还暴露出模型在处理异常输入时的一个问题。当输入内容不符合预设分类条件时,模型可能仍会强行选择已有选项。
例如,开发者向模型输入澳大利亚的首都、无意义的随机字符,以及一段要求创作秋天主题诗歌的文字,要求模型判断这些内容是否属于客服请求。
当开发者在候选选项中加入“其他”后,模型对三项输入均选择了“其他”,对应置信度分别为0.99、0.69和0.98。
但在没有设置“其他”选项时,模型将三项内容均错误归入技术支持类别,置信度分别达到0.71、0.64和0.84。对于是否属于客服请求这一是非判断,模型给出的概率也只有0.01、0.07和0.01。
可以看到,Gemini Decision 1虽然能够快速处理预设范围内的判断任务,但其结果仍然受到候选选项设计的影响。若开发者没有为异常输入设置兜底选项,模型可能将不符合分类条件的内容强行归入已有类别。
结语:谷歌将模型能力延伸至快速决策场景
从Gemini Decisions API的定位来看,谷歌正尝试在有一定竞争力的同时兼顾处理速度与调用成本。
对于需要频繁进行分类和工具选择的Agent应用来说,这类API提供了一种新的调用方式。随着Gemini Notebook、Stitch等谷歌内部产品陆续接入,其应用场景也在逐步拓宽。
未来,Gemini Decision 1能否在实际工作流中持续保持稳定的判断质量和处理效率,将影响这类API能否形成长期竞争优势。
来源:谷歌