AWS 开源决策模型 Strands Decider 2B,可本地运行
Amazon releases its own Jev clone as decision models flood the web
AWS 发布开源决策模型 Strands Decider 2B,基于 Qwen3.5-2B 构建,不生成文本而是从预设选项中给出带置信度的选择,速度高、成本低,小到可本地运行。该模型由 AWS 杰出工程师 Marc Brooker 在看过 TypeSafe 的 Jev 后自行开发,曾在同规模模型的 Jevbench 排名中短暂登顶,随后由 Strands Labs 整理发布。Brooker 表示,AWS 客户的智能体工作流并非时刻都需要完整 LLM 的能力和成本,这类模型可作为工作流中的决策步骤,凭借置信度和封闭答案域获得更可靠、更低延迟的表现。
正文 · AI 翻译
亚马逊云服务(AWS)发布了一款开源决策模型,灵感来自 TypeSafe 的 Jev。与此同时,AI 开发者正日益寻求更适合计算机自动化、而非前沿大语言模型的智能。
亚马逊的 Strands Decider 2B 于 OpenAI 宣布类似产品的同一周发布,它提供了一种高速、低成本的方式,在预先确定的选项之间进行筛选,并给出其对所选选项的置信度。该模型完全开源,现已可用,且小到足以在本地运行。
亚马逊杰出工程师 Marc Brooker 在看到 Jev 后萌生了这个项目,并尝试构建自己对这类模型的版本。这个自研项目相当成功——它曾短暂登上同规模模型 Jevbench 排行榜的首位——以至于亚马逊工程师将其整理完善,并作为其 Strands Labs 的产品发布。Strands Labs 是一个为部署 AI 智能体开发新工具和协议的组织。
Brooker 表示,对这类工具的需求源于与 AWS 客户的交流,这些客户的智能体工作流并不总是需要功能完备的大语言模型的能力或成本。
“最初引起我对这类模型兴趣的是,它们能成为工作流步骤的完美决策者——‘基于我当前所处的位置,我接下来该做什么?’”Brooker 对 TechCrunch 表示。他说,这为客户提供了“一个可以结构化的工作流步骤,得益于置信度分数、得益于封闭的答案域,它更可靠,[并且]延迟更低、成本可能更低。”
与其他决策模型一样,Strands Decider 构建在大语言模型的“躯干”之上,此处为 Qwen3.5-2B,但它不生成文本,而是给出经过校准的选择。TypeSafe 将其模型命名为 Jev,取自经济学家 William Stanley Jevons,希望借此援引他的理论:某样东西(比如计算机智能)成本的下降,实际上可能增加对其的需求。
自 TypeSafe 推出这一构想以来,研究人员已产出数十个类似模型,这既显示了广泛的兴趣,也引出了一个问题:它们究竟能有多大价值。Brooker 认为,挑战在于在不损害其智能的前提下优化模型快速的决策能力。
“需要找到一个非常谨慎的平衡点,你希望提升它在这类任务上的准确性和校准性能,同时又不降低它在理解不同语言、拥有各类知识方面的表现,而正是这些让它通用、有趣且有用,”他对 TechCrunch 表示。
不过,他并不一定认为前沿实验室会主导这一领域,尤其是考虑到市场规模较小,构建有趣产品的成本只有数百或数千美元。
TypeSafe 高管则表示,他们正埋头改进未来的模型。
“我理解人们认为这是一场淘金热,但他们可能低估了让模型真正变聪明的难度,”CEO 兼创始人 Diogo Almeida 对 TechCrunch 表示,并称目前他还没有看到公司面临真正的竞争。
“当前这批模型更像是机器学习人士想实现一种很酷的架构,而不是一支致力于让智能真正有用的团队。”