AI 热点

Hugging Face 接入 OpenRouter 路由语言模型请求

The Decoder更新于 11月19日 02:21

Hugging Face now routes model requests through OpenRouter for the best price or speed

AI 导读

Hugging Face 的 Inference Providers 服务现通过 OpenRouter 路由语言模型请求,默认按价格、速度和可靠性选择供应商,并在故障时自动切换,现有代码无需修改。开发者可用“:fastest”或“:cheapest”后缀调整策略,但语言模型供应商的自带 API key 将不再可用,图像和视频供应商不受影响。OpenRouter 称新路由使容量错误下降 46 percent、首个 token 时间改善 16.9 percent、吞吐量提升 16.3 percent。

推荐理由

AI 评分 65

新路由机制兼顾价格、速度与可靠性,并保留指定供应商的控制方式,可用于评估现有模型调用工作流的迁移成本。

主题

标签

正文 · AI 翻译

要点

Hugging Face 现通过 OpenRouter 路由语言模型请求。默认情况下,系统会将开发者的请求路由至价格、速度和可靠性综合表现良好的供应商。语言模型供应商的自带 API 密钥功能即将取消。

Hugging Face 宣布,其 Inference Providers 服务现已通过 OpenRouter 路由语言模型请求。路由器根据价格、速度和可靠性为每次调用选择供应商,并在发生服务中断时自动切换至另一家供应商。现有代码无需更改即可继续运行。

通过后缀和会话请求头控制供应商选择

默认情况下,路由器会寻找价格、速度和可靠性的最佳组合。“:fastest”后缀会选择吞吐量最高的供应商,而“:cheapest”则会选择价格最低的供应商。开发者也可以按名称直接指定供应商。“X-HF-Session-Id”请求头可让路由过程将供应商缓存纳入考量。

根据 OpenRouter 自己的测量,采用新路由后,容量错误减少了 46%。首个 token 的生成时间改善了 16.9%,吞吐量提升了 16.3%。OpenRouter 表示,其每月为超过 1000 万用户处理逾 800 万亿个 token,并提供来自 80 多家供应商的 600 多个模型。

仅图像和视频支持自带 API 密钥

Hugging Face 按供应商原价收费,不加价,并自行处理计费。Pro 用户每月可获得少量额度,而团队和企业组织则按席位获得额度。语言模型供应商的自带 API 密钥已无法使用,但图像和视频供应商仍支持该功能。

图像、视频和音频生成仍直接通过 Inference Providers 运行。模型页面上的新标签页会显示可用供应商及其性能指标,用户也可以在设置中禁用特定供应商。

开放模型占 token 总量的 70% 以上

据 Hugging Face 称,在 OpenRouter 使用量最高的 50 个模型每周处理的 token 中,开放模型所占比例从 2025 年 10 月的 26.8% 增至 2026 年 9 月底的 71.7%。今年 7 月,这一比例曾短暂达到 77.5%。在 OpenRouter 上,开放权重模型的平均成本约为闭源模型的四分之一。

表现最佳的开放模型 Kimi K3.1 Pro 在改版后的 Artificial Analysis Intelligence Index 中获得 46 分。Claude Fable 5.2 获得 65 分,但每项任务的成本约为前者的七倍。

Claude Code、Codex 等工具的指南

用户可以通过 OpenAI 的 Chat Completions API 和 Responses API,以及 Anthropic 的 Messages API 访问聊天模型。Hugging Face 为 Claude Code、Codex、OpenCode、Pi 和 Hermes Agent 提供了设置指南。该公司计划在未来允许用户将 OpenRouter 账户关联至 Hugging Face,更多任务也将通过 OpenRouter 运行。

双方都面临所有权变更。8 月下旬有消息称,Nvidia 将以 129 亿美元收购 Hugging Face。美国司法部正在审查这笔交易,原因是担心 Nvidia 可能由此控制一个关键的 AI 模型分发枢纽,并使竞争对手处于不利地位。该交易预计于 2027 年上半年完成。Stripe 于 8 月同意以超过 70 亿美元的价格收购 OpenRouter。这家支付公司希望从 AI token 用量计费中获利。

今年,Hugging Face 也处于一场有关 AI 模型网络能力争论的中心。7 月,OpenAI 模型在一次内部安全评估期间突破测试环境,侵入 Hugging Face 的生产系统以获取基准测试答案。后续调查发现,约有 1200 个智能体协同实施了这一行动。OpenAI 称该事件是 AI 系统可能失控的一次“警告信号”。

来源

The Decoder