隆重推出全新 Auto 与 Auto Code 路由器

Brian Thomas ·2026年11月6日

Introducing the New Auto and Auto Code Routers

今天我们推出新一代 Auto Router。基于过去 3 年运行 Auto Router 所积累的全部经验,我们在全新的技术基础上从零重建了它,根据基准不同,其表现最高可达旧路由器的 4 倍,在我们的实测中,路由步骤的 p90 延迟快了 3 倍(0.65 秒对 1.96 秒)。

路由器在基准测试中取得好成绩,比在实践中表现出色要容易得多。Auto Router 每月处理来自超过 10 万人的逾 2.5 万亿个 token,因此它必须在真实世界中经得起考验。

本次发布包括一个专为编码工作打造的全新路由器, Auto Code (openrouter/auto-code),以及我们的旗舰通用 Auto Router (openrouter/auto).

现在就试试,在任意请求中将 model 设置为 openrouter/auto 或 openrouter/auto-code ,或者打开 聊天室中的 Auto Router. 查看 Auto Router 文档 了解所有细节。

这一代有哪些新变化

此前的 Auto Router 依赖任务类型等少数几个不够精确的信号来驱动模型选择,这是为了保持低延迟和判断一致性而不得不做出的限制。新的 Auto Router 和 Auto Code 通过权衡每个请求的十一项因素,并结合实时定价、供应商健康度和缓存状态来选择模型。

这一新流程让 Auto Router 能够适用于任意模型集合。你可以应用任何治理策略,包括护栏、零数据保留要求、供应商限制、允许的模型列表和 BYOK 密钥。Auto Router 会从你可用的模型中做出高效的选择。

我们推出新的 Auto Code 路由器,是基于用户对在编码工具中使用通用路由器的体验反馈。该路由器从底层开始针对编码性能进行调优,引入了更高层级的编码模型并针对延迟进行了优化。在以下五项基准测试中,Auto Code 的得分与 Claude Opus 5.5 相当,而每个任务的成本低 74%。

Heatmap comparing the new Auto Router at its default tier, Auto Code, and the previous Auto Router at its default tier across Deep SWE, SWE-Atlas QA, Terminal Bench 4.0, τ³-bench Banking, and MMMU Pro Vision. Each benchmark shows a score and a cost per task with the multiple of the previous Auto Router; score cells are shaded green or red, deeper for larger changes (light mode)

Heatmap comparing the new Auto Router at its default tier, Auto Code, and the previous Auto Router at its default tier across Deep SWE, SWE-Atlas QA, Terminal Bench 4.0, τ³-bench Banking, and MMMU Pro Vision. Each benchmark shows a score and a cost per task with the multiple of the previous Auto Router; score cells are shaded green or red, deeper for larger changes (dark mode)

在上一代中,我们还观察到,最低成本模型出色的效率导致 Auto 路由器在每任务成本上不断下探,从而遗漏了许多出色的模型。我们在本次发布中决定将定价回调到接近几个月前 Auto 的水平,以便引入更多种类的模型。如果你更喜欢之前的行为,可以将 cost_tier 设为 low 以获得类似的成本表现。

在聊天室中查看路由决策背后的推理过程

开始了解这些新路由器如何工作的最简单方式,是在 聊天室中选择 Auto Router 或 Auto Code每个回复旁都会显示一个路由洞察面板,说明路由器为何选择该模型。启用路由元数据后,也可通过 API 获得同样的分析。 路由元数据.

The OpenRouter chatroom with Auto Router selected. A Python RecursionError question was answered by DeepSeek V4.1 Flash on InferenceNet. The routing insights panel shows the task (Debugging, 98%), the selection share across the candidate models, and the difficulty, precision, and larger-model-benefit judgments.

在每个模型页面上查看实时路由组合

最简便的方法 Auto Router 和 Auto Code 模型页面现在会显示每个路由器最常选择哪些模型(按会话类型拆分),以及随着难度上升这一组合如何变化。

Live routing section of the Auto Router model page: a bar chart of requests in the past day by model with Agentic and Non-agentic tabs and cost tier filters, a share-of-requests list led by GPT-6.1 Sol at 33.8%, and a stacked area chart of the current routing mix for all tasks from trivial to extreme difficulty.

将性能与其他路由器和单一模型进行对比

Auto Router 和 Auto Code 的基准测试结果发布在 OpenRouter 的 模型路由基准测试 页面上,与其他路由器及单模型基线并列展示。我们会定期重新运行这些测试,因此你可以跟踪每个路由器在新模型发布后如何保持同步。

基于多年来运行 Auto Router 的经验教训

Auto Router 即将迎来它的三岁生日。如果你设置 openrouter/auto 多年前在智能体中做出的选择,今天依然能获得最新的成本最优方案。我们深入了解了自动模型选择容易出错的地方,并构建了新一代路由器来避免这些问题。以下是一些例子:

我们将 Auto Code 单独拆分出来,以针对 harness 进行优化。 关于此前版本的 Auto Router,最常见的抱怨是它在编码 harness 中的表现。Auto Code 更倾向于选择价格略高、能力与编码工作相匹配的模型层级。它更看重速度,因为在你构建时响应速度很重要。它对失败也惩罚得更严厉,因此在成功与失败界限分明的工作上能更快纠正方向。

它在切换模型以保护缓存收益方面保持克制。 切换模型会产生额外成本,因为新模型需要重建输入 token 缓存。Auto Router 在推理力度调整足够时优先选择调整推理力度,只有当收益值得放弃缓存时才会切换模型。在我们的测试期间,它在大约每十个智能体回合中有近九个保持在同一个模型上。

它能适应失败。 当会话以指向模型的方式出错时,例如同一错误反复出现,或编辑后测试失败,这些信号会提高切换模型的概率。这使得会话因早期选错模型而一直卡住的可能性大大降低。

它会根据真实使用情况和基准测试进行调优。 Auto Router 在每一次基准测试运行和每一次真实路由决策中都会变得更出色。通过 typesafe/jev-router 以及 openrouter/auto-beta 我们已经在生产工作负载上验证了它,同时全程遵守零数据保留。在我们的测试版中,与上一代路由器相比,无效工具调用减少了4倍,智能体响应被截断的频率降低了一半。

模型路由建立在领先的供应商路由基础之上

模型路由器 例如 Auto Router 和 Auto Code 会选择由哪个模型来处理请求。 供应商路由 来选择由哪个模型提供服务。OpenRouter 从最初起就对每个请求执行这一流程:一旦选定模型, 供应商路由 会根据你的供应商偏好、实时在线率和延迟、价格,以及某个供应商是否已持有你的提示缓存,在托管该模型的供应商中进行选择。

模型路由器的表现,取决于其底层供应商路由器的能力。我们构建 Auto Router 时让它了解我们的整个模型目录,因此它能随着治理限制、基准测试结果以及新模型发布带来的市场信号实时调整。OpenRouter 上 600 多个模型中的每一个,在被添加的当天就进入候选集合,而基准测试和热度信号决定它能否跻身成本最优集合。

一个请求如何经过 Auto Router

  1. Auto Router 会缩小模型池。护栏、零数据保留、模型能力、供应商限制、BYOK 密钥,以及任何允许或排除的模型列表,都会决定哪些模型会被纳入考虑。

  2. 一个快速决策模型会处理该请求。在一次调用中,它会对十一个事项进行评估,例如这是什么类型的任务、任务是否刚刚发生变化、任务有多难、速度是否重要、是否需要视觉能力或对代码库的了解,以及更大的模型、更多的思考或更便宜的模型是否会更适合它。

  3. 路由策略负责选择模型。它会权衡实时价格、缓存状态和基准测试表现,来同时挑选模型和推理强度。

  4. 该请求会经过与该模型直接请求相同的供应商路由流程,因此会落到该模型最合适的供应商上。

  5. 每一轮的结果都会为下一轮的模型选择提供依据。路由器会将模型是否吃力、哪些内容已被缓存等信号带入下一次决策。

路由器与单一模型

基准测试一致表明,在成本与质量曲线上的每一个点,市场上没有任何路由器能胜过单一最佳前沿模型。新的 Auto Router 也不例外,我们公开其基准测试,以清楚地展示它的优势与不足。

当工作任务多样、组织需要保持成本稳定,以及对于没有时间或兴趣跟进源源不断的模型发布的人来说,路由器便有了用武之地。选择 Auto Router 或 Auto Code 而非单一模型,是以牺牲一点峰值性能为代价,换取长期稳定且高性价比的表现。

如果你知道哪种模型最适合你的具体工作,就继续使用它。如果你更愿意一次选定后专注于工作本身,路由器就是实现这一目标的方式。

开始使用

Auto Router 和 Auto Code 可用于任何原本填写模型字符串的位置:

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openrouter/auto-code",
    "messages": [{"role": "user", "content": "Add a retry with backoff to fetchUser in api/users.ts"}]
  }'

阅读 Auto Router 文档 如需完整设置,或打开 聊天室中的 Auto Router 并给它发送你通常会为此精心挑选模型的提示词。告诉我们它在哪些方面做对了、哪些方面做错了,请在 Discord 上告诉我们。 。

常见问题

从旧版 Auto Router 切换过来,我需要改动什么?

完全不用。slug 仍然是 openrouter/auto ,而 auto-router 插件设置 cost_tier, allowed_models,并专注于工作本身,路由器就是实现这一目标的方式。开始使用Auto Router 和 Auto Code 可用于任何原本填写模型字符串的位置:阅读 Auto Router 文档 如需完整设置,或打开 聊天室中的 Auto Router 并给它发送你通常会为此精心挑选模型的提示词。告诉我们它在哪些方面做对了、哪些方面做错了,请在 Discord 上告诉我们。 。常见问题从旧版 Auto Router 切换过来,我需要改动什么?完全不用。slug 仍然是 ,而 插件设置 , 仍然有效。Auto Router 和 Auto Code 有什么区别?两者运行在同一个路由引擎上。Auto Router 是面向混合流量和通用智能体的通用路由器,倾向于选择具有成本效益的模型层级。Auto Code 专为编码智能体和测试框架而设计,从更高的成本层级起步,并在模型和推理强度之间权衡实测通过率、速度以及每个已解决任务的成本。模型路由和供应商路由是一回事吗?不是。模型路由选择哪个模型 h excluded_models 仍然有效。

Auto Router 和 Auto Code 有什么区别?

两者运行在同一个路由引擎上。Auto Router 是面向混合流量和通用智能体的通用路由器,倾向于选择具有成本效益的模型层级。Auto Code 专为编码智能体和测试框架而设计,从更高的成本层级起步,并在模型和推理强度之间权衡实测通过率、速度以及每个已解决任务的成本。

模型路由和供应商路由是一回事吗?

不是。模型路由选择由哪个模型处理请求;供应商路由选择由哪个供应商为该模型提供服务。Auto Router 和 Auto Code 负责前者,随后 OpenRouter 的供应商路由根据你的供应商偏好、正常运行时间数据和提示缓存状态完成后者。

路由器会遵守我的护栏和数据策略吗?

会。护栏策略、零数据保留要求、供应商限制、允许和排除的模型列表以及 BYOK 密钥共同界定了模型池,路由器会在其中选择成本最优的模型。

路由器会额外收费吗?

不会。你按处理该请求的模型的标准价格付费,而响应的 model 字段会告诉你具体是哪一个。

什么是 openrouter/auto-beta?

Auto Router Beta 是 Auto Router 下一版本的发布渠道。新的路由变更会先发布到 openrouter/auto-beta 先发布到该渠道,成熟后再进入正式版,因此你可以用它提前了解即将推出的变化。 openrouter/auto 一旦它们经过验证,所以可以用它来提前了解即将推出的变化。如果你尝试了,请在 #feedback 在 Discord 上。