Brian Thomas ·2026年11月6日

今天我们推出新一代 Auto Router。基于过去 3 年运行 Auto Router 所积累的全部经验,我们在全新的技术基础上从零重建了它,根据基准不同,其表现最高可达旧路由器的 4 倍,在我们的实测中,路由步骤的 p90 延迟快了 3 倍(0.65 秒对 1.96 秒)。
路由器在基准测试中取得好成绩,比在实践中表现出色要容易得多。Auto Router 每月处理来自超过 10 万人的逾 2.5 万亿个 token,因此它必须在真实世界中经得起考验。
本次发布包括一个专为编码工作打造的全新路由器, Auto Code (openrouter/auto-code),以及我们的旗舰通用 Auto Router (openrouter/auto).
现在就试试,在任意请求中将 model 设置为 openrouter/auto 或 openrouter/auto-code ,或者打开 聊天室中的 Auto Router. 查看 Auto Router 文档 了解所有细节。
这一代有哪些新变化
此前的 Auto Router 依赖任务类型等少数几个不够精确的信号来驱动模型选择,这是为了保持低延迟和判断一致性而不得不做出的限制。新的 Auto Router 和 Auto Code 通过权衡每个请求的十一项因素,并结合实时定价、供应商健康度和缓存状态来选择模型。
这一新流程让 Auto Router 能够适用于任意模型集合。你可以应用任何治理策略,包括护栏、零数据保留要求、供应商限制、允许的模型列表和 BYOK 密钥。Auto Router 会从你可用的模型中做出高效的选择。
我们推出新的 Auto Code 路由器,是基于用户对在编码工具中使用通用路由器的体验反馈。该路由器从底层开始针对编码性能进行调优,引入了更高层级的编码模型并针对延迟进行了优化。在以下五项基准测试中,Auto Code 的得分与 Claude Opus 5.5 相当,而每个任务的成本低 74%。


在上一代中,我们还观察到,最低成本模型出色的效率导致 Auto 路由器在每任务成本上不断下探,从而遗漏了许多出色的模型。我们在本次发布中决定将定价回调到接近几个月前 Auto 的水平,以便引入更多种类的模型。如果你更喜欢之前的行为,可以将 cost_tier 设为 low 以获得类似的成本表现。
在聊天室中查看路由决策背后的推理过程
开始了解这些新路由器如何工作的最简单方式,是在 聊天室中选择 Auto Router 或 Auto Code每个回复旁都会显示一个路由洞察面板,说明路由器为何选择该模型。启用路由元数据后,也可通过 API 获得同样的分析。 路由元数据.

在每个模型页面上查看实时路由组合
最简便的方法 Auto Router 和 Auto Code 模型页面现在会显示每个路由器最常选择哪些模型(按会话类型拆分),以及随着难度上升这一组合如何变化。

将性能与其他路由器和单一模型进行对比
Auto Router 和 Auto Code 的基准测试结果发布在 OpenRouter 的 模型路由基准测试 页面上,与其他路由器及单模型基线并列展示。我们会定期重新运行这些测试,因此你可以跟踪每个路由器在新模型发布后如何保持同步。
基于多年来运行 Auto Router 的经验教训
Auto Router 即将迎来它的三岁生日。如果你设置 openrouter/auto 多年前在智能体中做出的选择,今天依然能获得最新的成本最优方案。我们深入了解了自动模型选择容易出错的地方,并构建了新一代路由器来避免这些问题。以下是一些例子:
我们将 Auto Code 单独拆分出来,以针对 harness 进行优化。 关于此前版本的 Auto Router,最常见的抱怨是它在编码 harness 中的表现。Auto Code 更倾向于选择价格略高、能力与编码工作相匹配的模型层级。它更看重速度,因为在你构建时响应速度很重要。它对失败也惩罚得更严厉,因此在成功与失败界限分明的工作上能更快纠正方向。
它在切换模型以保护缓存收益方面保持克制。 切换模型会产生额外成本,因为新模型需要重建输入 token 缓存。Auto Router 在推理力度调整足够时优先选择调整推理力度,只有当收益值得放弃缓存时才会切换模型。在我们的测试期间,它在大约每十个智能体回合中有近九个保持在同一个模型上。
它能适应失败。 当会话以指向模型的方式出错时,例如同一错误反复出现,或编辑后测试失败,这些信号会提高切换模型的概率。这使得会话因早期选错模型而一直卡住的可能性大大降低。
它会根据真实使用情况和基准测试进行调优。 Auto Router 在每一次基准测试运行和每一次真实路由决策中都会变得更出色。通过 typesafe/jev-router 以及 openrouter/auto-beta 我们已经在生产工作负载上验证了它,同时全程遵守零数据保留。在我们的测试版中,与上一代路由器相比,无效工具调用减少了4倍,智能体响应被截断的频率降低了一半。
模型路由建立在领先的供应商路由基础之上
模型路由器 例如 Auto Router 和 Auto Code 会选择由哪个模型来处理请求。 供应商路由 来选择由哪个模型提供服务。OpenRouter 从最初起就对每个请求执行这一流程:一旦选定模型, 供应商路由 会根据你的供应商偏好、实时在线率和延迟、价格,以及某个供应商是否已持有你的提示缓存,在托管该模型的供应商中进行选择。
模型路由器的表现,取决于其底层供应商路由器的能力。我们构建 Auto Router 时让它了解我们的整个模型目录,因此它能随着治理限制、基准测试结果以及新模型发布带来的市场信号实时调整。OpenRouter 上 600 多个模型中的每一个,在被添加的当天就进入候选集合,而基准测试和热度信号决定它能否跻身成本最优集合。
一个请求如何经过 Auto Router
-
Auto Router 会缩小模型池。护栏、零数据保留、模型能力、供应商限制、BYOK 密钥,以及任何允许或排除的模型列表,都会决定哪些模型会被纳入考虑。
-
一个快速决策模型会处理该请求。在一次调用中,它会对十一个事项进行评估,例如这是什么类型的任务、任务是否刚刚发生变化、任务有多难、速度是否重要、是否需要视觉能力或对代码库的了解,以及更大的模型、更多的思考或更便宜的模型是否会更适合它。
-
路由策略负责选择模型。它会权衡实时价格、缓存状态和基准测试表现,来同时挑选模型和推理强度。
-
该请求会经过与该模型直接请求相同的供应商路由流程,因此会落到该模型最合适的供应商上。
-
每一轮的结果都会为下一轮的模型选择提供依据。路由器会将模型是否吃力、哪些内容已被缓存等信号带入下一次决策。
路由器与单一模型
基准测试一致表明,在成本与质量曲线上的每一个点,市场上没有任何路由器能胜过单一最佳前沿模型。新的 Auto Router 也不例外,我们公开其基准测试,以清楚地展示它的优势与不足。
当工作任务多样、组织需要保持成本稳定,以及对于没有时间或兴趣跟进源源不断的模型发布的人来说,路由器便有了用武之地。选择 Auto Router 或 Auto Code 而非单一模型,是以牺牲一点峰值性能为代价,换取长期稳定且高性价比的表现。
如果你知道哪种模型最适合你的具体工作,就继续使用它。如果你更愿意一次选定后专注于工作本身,路由器就是实现这一目标的方式。
开始使用
Auto Router 和 Auto Code 可用于任何原本填写模型字符串的位置:
curl https://openrouter.ai/api/v1/chat/completions \
-H "Authorization: Bearer $OPENROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "openrouter/auto-code",
"messages": [{"role": "user", "content": "Add a retry with backoff to fetchUser in api/users.ts"}]
}'
阅读 Auto Router 文档 如需完整设置,或打开 聊天室中的 Auto Router 并给它发送你通常会为此精心挑选模型的提示词。告诉我们它在哪些方面做对了、哪些方面做错了,请在 Discord 上告诉我们。 。
常见问题
从旧版 Auto Router 切换过来,我需要改动什么?
完全不用。slug 仍然是 openrouter/auto ,而 auto-router 插件设置 cost_tier, allowed_models,并专注于工作本身,路由器就是实现这一目标的方式。开始使用Auto Router 和 Auto Code 可用于任何原本填写模型字符串的位置:阅读 Auto Router 文档 如需完整设置,或打开 聊天室中的 Auto Router 并给它发送你通常会为此精心挑选模型的提示词。告诉我们它在哪些方面做对了、哪些方面做错了,请在 Discord 上告诉我们。 。常见问题从旧版 Auto Router 切换过来,我需要改动什么?完全不用。slug 仍然是 ,而 插件设置 , 仍然有效。Auto Router 和 Auto Code 有什么区别?两者运行在同一个路由引擎上。Auto Router 是面向混合流量和通用智能体的通用路由器,倾向于选择具有成本效益的模型层级。Auto Code 专为编码智能体和测试框架而设计,从更高的成本层级起步,并在模型和推理强度之间权衡实测通过率、速度以及每个已解决任务的成本。模型路由和供应商路由是一回事吗?不是。模型路由选择哪个模型 h excluded_models 仍然有效。
Auto Router 和 Auto Code 有什么区别?
两者运行在同一个路由引擎上。Auto Router 是面向混合流量和通用智能体的通用路由器,倾向于选择具有成本效益的模型层级。Auto Code 专为编码智能体和测试框架而设计,从更高的成本层级起步,并在模型和推理强度之间权衡实测通过率、速度以及每个已解决任务的成本。
模型路由和供应商路由是一回事吗?
不是。模型路由选择由哪个模型处理请求;供应商路由选择由哪个供应商为该模型提供服务。Auto Router 和 Auto Code 负责前者,随后 OpenRouter 的供应商路由根据你的供应商偏好、正常运行时间数据和提示缓存状态完成后者。
路由器会遵守我的护栏和数据策略吗?
会。护栏策略、零数据保留要求、供应商限制、允许和排除的模型列表以及 BYOK 密钥共同界定了模型池,路由器会在其中选择成本最优的模型。
路由器会额外收费吗?
不会。你按处理该请求的模型的标准价格付费,而响应的 model 字段会告诉你具体是哪一个。
什么是 openrouter/auto-beta?
Auto Router Beta 是 Auto Router 下一版本的发布渠道。新的路由变更会先发布到 openrouter/auto-beta 先发布到该渠道,成熟后再进入正式版,因此你可以用它提前了解即将推出的变化。 openrouter/auto 一旦它们经过验证,所以可以用它来提前了解即将推出的变化。如果你尝试了,请在 #feedback 在 Discord 上。