TypeSafe AI 的 Jev 带火决策模型,Cloudflare 等公司跟进
AI Companies Develop Decision Models to Avoid Hallucinations
TypeSafe AI 发布号称不会产生幻觉的决策模型 Jev,Cloudflare、Amazon、OpenAI 和 Microsoft 随后推出类似模型。Jev 宣称端到端延迟为 70 至 500 毫秒,定价为每百万输入 token 0.042 美元且输出免费;卡内基梅隆大学的预印本测试显示其延迟中位数为 150 毫秒,而 GPT-6 Astra 为 1.89 秒。研究者指出,决策模型消除了输出幻觉,但在数学、逻辑以及医学、金融、法律等专业领域仍会出错,把低置信度结果交给 LLM 复核的混合方案在测试中略优于单用 GPT-6,成本为后者的 41%。
推荐理由
精选AI 评分 80
梳理决策模型从 Jev 到 Cloudflare 等跟进者的扩散,并借独立测试说明其速度优势与领域短板。
主题
正文 · AI 翻译
9月15日,一家名为TypeSafe AI的初创公司发布了一款名为Jev的新AI模型。该公司围绕Jev提出的那些广泛而具有颠覆性的说法引发了关注:该公司声称,Jev——它称之为“System One模型”——更便宜、更快,而且不会产生幻觉。
TypeSafe AI的营销显然是对其他AI公司及其大语言模型(LLM)的一次公开挑战;这些模型尽管在数学和编程方面能力不俗,却因成本高昂以及倾向于“幻觉”出事实错误的回答而声名不佳。而这家初创公司也确实同时吸引了关注和投资。该公司最近以75亿美元的估值融资8.7亿美元。
但Jev成功最引人注目的指标,或许可以说是它已经催生出的众多模仿者。Cloudflare、Amazon、OpenAI和Microsoft迅速发布了模仿Jev能力的“决策模型”。初创公司、学术研究人员和独立爱好者又发布了数十个更多模型。
“我必须给Jev记一功,”独立开发者Matt Mastracci说,他训练并发布了多个决策模型,包括Djev,Cloudflare曾称Djev是其自家决策模型的灵感来源。“它确实把决策模型推到了前台。在六七周内,我们就看到数十个模型问世。”
Jev的延迟与算力优势
大多数AI研究人员会把Jev称为决策模型或判定模型。TypeSafe AI将Jev标榜为System One模型,指的是心理学家Daniel Kahneman在其著作《思考,快与慢》中普及的一种认知理论。在该书中,Kahneman区分了快速、直觉性的思维(System One)与较慢、审慎的思维(System Two)。
TypeSafe AI认为,现代LLM提供的是后者,但速度太慢,无法提供前者。该公司声称,Jev可以提供70至500毫秒的端到端响应延迟。相比之下,LLM通常至少需要数秒才能给出响应,而更复杂的任务(比如从零编写软件)可能需要数小时。
独立测试支持了TypeSafe AI的说法。卡内基梅隆大学信息系统教授Ramayya Krishnan与几位同事共同撰写的一篇预印本发现,在旨在衡量决策准确性的多项基准测试中,包括RewardBench和JudgeBench,Jev的中位延迟为150毫秒。OpenAI当时能力最强的模型GPT-6 Astra的中位延迟为1.89秒。
更快的回复往往也是更便宜的回复,因为它需要的计算时间更少,这一点也反映在TypeSafe AI的定价中。这家初创公司对每百万输入token收费0.042美元,输出token免费。相比之下,对于GPT-6 Astra,ChatGPT对每百万输入token收费10美元,对每百万输出token收费50美元。即便是专为快速、低成本推理设计的GPT-6变体GPT-6 Luna,也要对每百万输入token收费0.10美元,对每百万输出token收费0.50美元。
Mastracci表示,更低的延迟和成本为处理LLM目前无法应对的任务带来了机会。“你可以想想内容审核,比如审核海量涌来的社交媒体帖子,或者一个极其繁忙的聊天室。”
Cloudflare的集团产品经理Michelle Chen(Cloudflare已发布自己的决策模型,包括Clef和Claric)也对决策模型所能实现的目标持乐观态度。“你大概可以把通常LLM任务的80%卸载给一个System One模型,它会快得多,也便宜得多。”
TypeSafe AI几乎没有提供关于Jev如何实现其速度的细节,但Jev的开源权重模仿者提供了更高的透明度。
以Cloudflare的Clef为例,这是一个开源权重的决策模型,可在Hugging Face上免费下载。“使用LLM时,当你生成一个输出token,它会查看所有先前的token,并预测下一个输出token,”Chen解释说。这个过程按顺序进行,一个token接一个token,直到到达结束token。“我们的决策模型不这样做。它们只做一次前向传播,对所有输入生成一次读取,然后生成一个输出。这就是它快得多的原因。”
决策模型如何泛化任务
基于LLM的决策模型,例如Clef(它基于阿里巴巴的Qwen LLM),仍然包含LLM的神经元和基于Transformer的模型架构。它们仍然输入和输出token。
然而,模型中将这些token转换为文本的部分已被改变,以约束输出。“Jev只能用预定义的结构化答案格式回答问题,”复旦大学教授Zhongyu Wei说,他也是一项研究的共同作者,该研究对决策模型进行基准测试,并推出了一种开源权重替代方案SII-Decision。“我们给它一个问题以及A、B、C等选项,它必须从这些选项中选择,并在给出选择的同时返回概率。”
从某种意义上说,决策模型是对分类器的一种回归——顾名思义,分类器是一类学习将数据分门别类的模型。它们被用于广泛的任务,包括垃圾邮件过滤和人脸检测。“这类模型并不新鲜,”Chen说,“这几乎就像是一次重新包装。”
但决策模型相比此前的分类器提供了一项关键升级:泛化能力。
Mastracci解释说,分类器传统上是通过特定领域的训练来创建的。而决策模型则保留了LLM的通用智能,这使它们适用于许多场景。“你可以直接拿来用,把它指向你的问题,它就能工作,”Mastracci说。
Cloudflare正在将这一优势付诸实践。Chen说,在决策模型出现之前,想要使用分类器模型的团队必须“获取大量数据、组建机器学习团队,并针对任务进行微调”。决策模型消除了这一要求,因此一个决策模型可以用于许多领域。例子包括在Cloudflare的GitHub文档仓库中标记垃圾拉取请求、拦截垃圾邮件和钓鱼邮件、发现钓鱼域名、检测针对LLM的提示注入攻击,以及阅读有关互联网骨干网中断的邮件以判断它们是否会影响Cloudflare的服务。
决策模型非常适合对电子邮件、消息或文档等数据做出快速判断。来源:TypeSafe AI
决策模型真的能阻止幻觉吗?
在编程中,“类型安全”语言的设计目的是让混合不兼容类型数据的操作——比如把数字加到字符串上——在程序运行之前就被拒绝,而不是在之后产生糟糕的结果。决策模型与此类似,因为它们能防止模型生成意料之外的回复。TypeSafe AI的名称将类型安全编程与决策模型之间的联系作为公司营销的一部分,并在此基础上提出了一个惊人的主张:Jev永远不会产生幻觉。
严格来说,这是真的。LLM产生幻觉,是因为它们在庞大的可能性词表上反复计算token的概率,并输出许多token。这就为概率较低的token把回复引向歧途留下了空间,或者让模型输出基于其训练数据虽然概率较高、但在回复语境中并不正确的token。相比之下,决策模型只在预先确定的可能性中计算概率,并选择概率最高的那个。这消除了幻觉。
然而,卡内基梅隆大学的Krishnan警告说,“消除输出中的幻觉并不能消除决策中的错误。”他和合著者通过让Jev判断问题的答案是否正确来测试它。当判断可以通过阅读提示轻松得出时,Jev表现良好,但当判断需要数学计算或涉及逻辑谜题时,表现就会下降。
Wei和他的合著者在自己的研究中也报告了类似的结果。他们发现,在被问及文档理解相关问题时,最好的决策模型可以略微超过LLM的准确率;在被问及工具使用相关问题(例如选择正确的软件工具来执行用户任务)时,得分接近LLM。然而,在被问及需要领域专业知识的领域(包括医学、金融和法律)的问题时,决策模型则落后。
“我认为推理是一个关键因素,”Wei说。推理让LLM在向用户提供最终答案之前能够梳理其回复。然而,Wei补充说,推理本身并不能解释所有情况下的领域差距,因为有些LLM即使没有推理也表现良好。Wei说,用于训练决策模型的方法也可能是一个因素,并且为SII-Decision使用了针对决策的专门训练。
然而,决策模型和LLM不必是竞争对手。Krishnan及其同事还测试了将Jev的低置信度答案交给GPT-6进一步考量。模型的组合略微超过了单用GPT-6的准确率,而且成本仅为后者的41%。
Wei认为这种“混合架构”将变得普遍。“决策模型可以调用LLM来给出更详细的解释。而LLM可以调用决策模型来进行快速判断。我认为这非常灵活。”
AI News