AI News

Google 推出 Gemini Decisions API,由 Gemini Decision 1 模型驱动

SiliconANGLE更新于 11月12日 12:36

Google enters decision model market with Gemini Decisions API - SiliconANGLE

AI 导读

Google 发布 Gemini Decisions API,由新模型 Gemini Decision 1 驱动,只处理是/否、多选和按用户指定量表打分三类问题,成本约为入门级 Gemini 3.5 Flash-Lite 的五分之一。该模型支持最多 256,000 token 的多模态输入,输出简短答案并附带置信度分数,定价为每 100 万输入 token 10 美分且不收取输出费用,同时可在 Google AI Studio 的有限免费额度中试用。Google 称其在 9 项基准中的 7 项优于 Jev 和 OpenAI 的 Decisions API,但 Jev 的成本效率略高。

推荐理由

AI 评分 67

原文给出决策模型的定价、延迟与基准对比,读者可据此判断这类窄任务模型与通用 LLM 的成本差异。

主题

标签

正文 · AI 翻译

Google LLC 今日推出 Gemini Decisions API,这是一项旨在以高成本效益方式回答用户问题的人工智能服务。

它由一款名为 Gemini Decision 1 的新 AI 模型驱动。

传统大语言模型旨在回答范围广泛的提示。Gemini Decision 1 的侧重点则窄得多:它只能处理三类问题。其优势在于,回答这些问题所需的成本显著更低。据 Google 称,该模型的成本比其入门级 Gemini 3.5 Flash-Lite 大语言模型便宜近五倍。

该模型可以回答是/否问题、多项选择题,以及要求其按用户指定的量表对某一项目进行评分的提示。例如,网络安全团队可以要求该模型按 1 到 10 的量表评估某条杀毒警报的严重程度。

Gemini Decision 1 的提示包含两项内容:用户的问题以及这些问题所涉及的数据集。数据集最多可包含相当于 256,000 个 token 的文本、音频、图像、视频或其某种组合。

大语言模型通常针对用户问题生成冗长、自由流畅的文本。相比之下,Gemini Decision 1 输出的是诸如“是”或“否”之类的简短答案。它还会显示一个分数,表明其对给定回答准确性的置信程度。该分数有助于应用程序决定是否应使用该输出。

旨在为简单问题生成简短答案的神经网络被称为决策模型。首个此类模型 Jev 由一家名为 TypeSafe AI Inc. 的初创公司于 9 月中旬推出。它在几天内就获得了一百万用户。推出三周后,TypeSafe 以 75 亿美元估值融资 8.7 亿美元。

决策模型回答其针对优化的那组范围狭窄的问题时,速度比大语言模型更快。此外,它们也更容易集成到应用程序中。应用程序若使用 AI 模型来支持其部分功能,必须先检查模型输出的错误,并在摄取前过滤冗余细节。决策模型简洁、结构化的响应使这两项任务都变得更简单。

“Gemini Decision 1 在不进行逐 token 解码的情况下对选项评分,在多模态输入以及最高 16K token 的上下文中,将模型计算的中位延迟保持在 50-100 毫秒(端到端 150-250 毫秒),并且从每次请求 1 个问题到 100 个问题几乎保持平稳,”Google DeepMind 产品经理 Min Choi 和首席科学家 Felix Yu 在一篇博客文章中写道。

Google 检查了 Gemini Decision 1 与 Jev 以及 OpenAI Group PBC 的 Decisions API(一项上月推出的竞争服务)相比的表现。这家搜索巨头表示,其模型在测试的九项基准中有七项表现更好。不过,Jev 的成本效率略高。

Gemini Decision 1 可通过 Gemini Decisions API 使用,价格为每 100 万输入 token 10 美分。Google 不收取输出 token 的费用。该算法还可通过 Google AI Studio 的有限免费层级访问,开发者可利用该服务熟悉这家搜索巨头的模型。

图片:Google

来源

SiliconANGLE