先了解这件事
AI 综述
Baseten工程团队于2026年10月29日发布博客,介绍对Qwen3-ASR 1.7B批量转写部署的优化。团队通过原生音频解码、KV cache FP8量化以及减少主机与设备同步,在单张RTX PRO 6000上把批量转写吞吐提升7倍、延迟降低6.9倍。优化后一小时音频的转写成本约为0.0013美元,即每音频小时1/10美分,词错误率没有明显变化。该优化版本已作为Baseten Model Library的默认部署,可通过OpenAI兼容的转写客户端调用。
AI 根据公开报道生成
最新进展 · 正式报道
Baseten 优化 Qwen3-ASR 批量转写，单卡吞吐提升 7 倍事件进展
1 个已确认进展
- 来源：Baseten 工程博客
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月29日
Baseten 工程博客一手
Baseten 优化 Qwen3-ASR 批量转写，单卡吞吐提升 7 倍
Baseten 工程团队通过原生音频解码、KV cache FP8 量化和减少主机与设备同步，把 Qwen3-ASR 1.7B 在单张 RTX PRO 6000 上的批量转写吞吐提升 7 倍、延迟降低 6.9 倍。优化后一小时音频的转写成本约为 0.0013 美元，即每音频小时 1/10 美分，词错误率没有明显变化。该优化版本已作为 Baseten Model Library 的默认部署，可通过 OpenAI 兼容的转写客户端调用。