热点事件

团队提出多目标模型路由方案

1 篇正式报道1 条事件动态更新于 7月16日 01:27

先了解这件事

事件摘要

还没有公开综述，先看下面的报道时间线。

最新进展 · 正式报道7月16日 01:27

1 个已确认进展

按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。

01:27
Hugging Face一手精选
模型路由很简单，直到它不再简单
Hugging Face 将模型路由从难度分类改为同时优化成本、质量与延迟的系统问题。在 AppWorld Test Challenge 的 417 个任务中，Sonnet 总成本为 $79，低于 GPT-4.1 的 $155，主因是缓存读取定价差异。其延迟优化配置以 $93 和 83s 达到 84% 准确率，路由开销约为每任务 6 ms 和 2 kB 内存。