You.com 推出 Inference Router，接入 12 个开源权重模型并提供 99.9% 可用性 SLA

将我们添加为 Google 首选来源

You.com 推出了 Inference Router，这是一个用于在生产环境中运行开放权重模型的托管 API。You.com Inference Router 是一项兼容 OpenAI 的服务，可在 12 个实时模型之间路由请求。它捆绑了 99.9% 的最低正常运行时间 SLA 和零数据保留（ZDR）。它增加了 100% 美国托管和服务器端网页搜索。它采用按需付费模式，不收取平台费。

TL;DR

规模：12 个实时模型，从 GPT-OSS 120B（125K 上下文）到 Kimi K3 和 Qwen3.8 Max（1M 上下文）。Kimi K3 是一个 2.8T 参数模型；Qwen3.8 Max 是一个 2.4T MoE。

运行方式：完全托管。请求首先到达 You.com Inference Direct，然后故障转移到美国托管的合作伙伴。无需管理 GPU。

性能：在 You.com 的 LiveNewsBench 运行中，开放权重模型加上 You.com 搜索以更低的成本匹配了前沿模型。

最佳：GLM-5.3 配合 You.com 搜索得分 86.53%，每题 0.0485 美元，而 Claude Sonnet 5.5 为 0.0920 美元（自报）。

最差：每 token 价格接近市场水平。Kimi K3 为 2.85/14.25 美元，仅比 Together AI 的 3.00/15.00 美元低 5%。

什么是 You.com Inference Router？

它是一个面向多种开放权重模型的 API。端点为 https://api.you.com，提供兼容 OpenAI 和兼容 Anthropic 的路由。现有 SDK 代码只需更改基础 URL 和密钥即可迁移。

TEXTTABLELAYOUT你的 PDF 解析器真的解析正确了吗？omni_parse_bench · 对文本、表格和布局评分 · 开源在 GitHub 上加星→赞助

You.com 团队将问题归结为停滞的迁移。开发团队在聚合器上测试开放权重模型，然后遇到安全审查。审查者会询问 ZDR、美国托管、访问控制和 DPA。专用提供商能满足这些标准，但通常需要大量承诺。Inference Router 瞄准的正是这一空白。

路由和故障转移如何工作？

每个请求首先发往 You.com Inference Direct，即公司自有的推理容量。如果它宕机或满载，请求会故障转移到经过审核的合作伙伴。官方帖子列出了 Parasail、Wafer、阿里云、Meta 和 Inception，Prime Intellect 即将加入。所有合作伙伴均为 100% 美国托管，且必须遵守 ZDR 规则。

故障转移不会改变账单。每个模型有 1 个公布的每 token 价格。You.com 还提供按 API 密钥的支出上限，以及按模型、成本和提供商查看每日使用情况。账户运行在符合 SOC 2 的基础设施上，可按要求提供 DPA。

零数据保留涵盖哪些内容？

ZDR 政策规定，提示和输出在内存中处理，不会被存储。它涵盖模型调用和网页搜索请求。You.com 仅保留运营元数据，例如 token 计数、时间戳和账户 ID。提示哈希、去标识化文本和磁盘支持的提示缓存被明确排除在外。

有哪些模型可用，价格如何？

模型页面列出了 12 个实时模型，全部为美国托管。价格为每 100 万 token（输入/输出）：

Kimi K3（Moonshot AI）：2.85/14.25 美元，1M 上下文

Qwen3.8 Max（阿里巴巴）：1.85/5.55 美元，1M 上下文

GLM 5.3（Z.ai）：1.35/4.25 美元，1M 上下文

DeepSeek V4 Pro：1.65/3.65 美元，1M 上下文

DeepSeek V4.1 Flash：0.30/1.20 美元，1M 上下文

Mercury 3（Inception）：0.10/0.35 美元，1M 上下文

GPT-OSS 120B（OpenAI）：0.097/0.73 美元，125K 上下文

Muse Wonder、Muse Spark 1.3、GLM 5.3 Flash、Qwen3.8 Flash 和 MiniMax M3 构成了列表的其余部分。

内置网页搜索如何工作？

开发者声明 web_search 或 web_extract 工具，路由器会为模型运行搜索。文档显示每次搜索最多 20 条结果，默认 30 轮搜索。响应返回带有引用的 web_results 对象。

搜索与模型运行在同一服务器上。You.com 表示内部测试显示延迟最多降低 15%。

基准测试显示了什么？

You.com 报告了一次包含 1,329 个问题的 LiveNewsBench 运行，使用 Braintrust 的开源搜索评估。这些数字为自报：

设置准确率每题平均成本

GPT-6.1 Sol，内置搜索86.53%0.0591 美元

GLM-5.3 + You.com 搜索86.53%0.0485 美元

Claude Sonnet 5.5，内置搜索86.38%0.0920 美元

DeepSeek V4.1 Flash + You.com 搜索84.12%0.0215 美元

DeepSeek V4.1 Flash 每题成本比 Claude Sonnet 5.5 低约 77%。它落后 2.26 个百分点。

Braintrust 自己 8 月的研究使用了较旧的模型。在那里，DeepSeek V4 Flash 配合 You.com 搜索达到 80.66%，每题 0.0163 美元。Claude Sonnet 5 配合内置搜索得分 78.78%，每题 0.1148 美元。

You.com 还引用了与 NVIDIA 和 CoreWeave 的联合工作。在循环中使用 You.com 搜索对 Nemotron 3.5 Lightning 进行后训练，将 BrowseComp 从 36.97% 提升到 45.45%。工具调用减少了 30%。

它与 OpenRouter、Together AI 和 Fireworks AI 相比如何？

指标You.com Inference RouterOpenRouterTogether AI（无服务器）Fireworks AI（无服务器）

模型优先使用自有容量，合作伙伴故障转移跨第三方提供商的聚合器自有推理云自有推理云

正常运行时间 SLA至少 99.9%，按需付费并提供补偿未披露；自动回退尽力而为；仅预置吞吐量（最低 1 个月）提供 99% 请求 SLA未披露

零数据保留默认，模型和网页搜索默认不记录提示；提供商政策各异默认关闭；管理员启用开放模型默认开启

美国托管100%，包括故障转移因提供商而异无服务器未披露仅美国层级需额外付费

平台费0%购买信用额度收取 5.5%（最低 0.80 美元）未列出未列出

Kimi K3（每百万 token 输入/输出）$2.85 / $14.25$0.238 / $16 最高 $4.50 / $22.50，因提供商而异$3.00 / $15.00$3.00 / $15.00；仅限美国 $4.50 / $22.50

DeepSeek V4.1 Flash（每百万 token 输入/输出）$0.30 / $1.20未核查$0.30 / $1.20$0.30 / $1.20；仅限美国 $0.45 / $1.80

服务端网页搜索是，与模型同一服务器服务器工具，第三方搜索未披露第三方搜索提供商

最明显的价格优势是对比 Fireworks 的仅限美国层级。在那里，You.com 在 Kimi K3 输入上便宜约 37%。

关键要点

12 个开放权重模型，统一通过 1 个 OpenAI 兼容基础 URL 接入。

按需付费至少 99.9% 正常运行时间 SLA，并提供补偿。

ZDR 覆盖模型调用和网页搜索。

0% 平台费，对比 OpenRouter 的 5.5%。

Token 价格接近市场水平；价值在于各项保障。

Asif Razzaq网站 | + 文章简介 ⮌

Asif RazzaqGradium 以 Apache 2.0 开源 Phonon，一个 3100 万参数的端侧 TTS 模型

Asif RazzaqIBM AI 发布 Granite Speech 5.0 2B，用于多语言转录和翻译

$uv pip install omni-parse-bench✓文本✓表格✓布局→ 按页评分在 GitHub 上加星→赞助

You.com 推出 Inference Router，接入 12 个开源权重模型并提供 99.9% 可用性 SLA

推荐理由

主题

标签

正文 · AI 翻译