Baseten 发布决策模型 joey-1,P50 延迟 20ms、每百万 token 0.01 美元
Baseten 旗下 Base Labs 发布 2B 决策模型 joey-1,直接输出单个 token 的标签和校准置信度,P50 端到端延迟 20ms,约为 elephant-1(49ms)的 2.5 倍速度,价格为每百万 token 0.01 美元,是 mammoth-1 的十分之一。joey-1 由 Qwen3.5-2B 后训练而来,与 elephant-1、mammoth-1 共用同一数据配方和 API,切换只需改一行。该模型已在 Baseten Model APIs 上线,默认零数据保留,权重在 Hugging Face 开源;Model APIs 支持 16k 上下文窗口,专用部署可解锁 262k 上下文窗口并支持微调权重。

- Baseten 工程博客
- MarkTechPost
- Unite.AI
推荐理由原文给出 joey-1 的延迟、价格与三档模型分工,读者可据此判断决策类任务是否该换用小模型。


