Rumble-2-Flash 发布:面向 40+ 种语言的开源 0.5B 语音模型
Rumble-2-Flash: an open 0.5B speech model for 40+ languages
Rumble-2-Flash 是面向 40+ 种语言的开源 0.5B 语音模型,采用 Qwen3-ASR 架构,可在 Transformers 和 vLLM 中运行。它在 Open ASR Leaderboard 多语言赛道的平均错误率为 6.96%,英语赛道平均 WER 为 6.6%,批次充足时吞吐量超过 7,000 RTFx。模型权重已发布至 Hugging Face Hub 的 Reson8/Rumble-2-Flash,并可通过 API 使用。
推荐理由
精选AI 评分 71
文中同时披露多语种识别、真实通话和吞吐量结果,可用于比较小参数语音模型的精度与部署效率。
主题
正文 · AI 翻译
快速入门
audio 接受本地路径、URL、NumPy 数组或由这些内容组成的列表。
构建方式
Rumble-2-Flash 采用 Qwen3-ASR 架构,实现首日支持。如果你的技术栈运行 Transformers 或 vLLM,就能运行 Rumble-2-Flash,无需分叉运行时,也无需 trust_remote_code。
为了确定模型在准确率开始下降之前究竟可以缩小到什么程度,我们使用在策略蒸馏,将更大的生产模型 Rumble-2 蒸馏成了它。学生模型并不使用教师模型生成的转录文本进行训练。它会自行转录音频,而教师模型会逐个词元评判该转录结果:在每个位置,教师模型都会给出自己对下一个应出现内容的概率,学生模型则学习与之匹配。由于学生模型从自己的输出中学习,它所犯的错误恰好都会得到纠正,而且每个词元都能获得反馈,而不是每段音频只能得到一个评分。
在策略蒸馏通常要求教师模型和学生模型共用同一个分词器,但我们的模型并非如此:选择 Qwen3-ASR 也意味着采用它的词表。GOLD 消除了这一限制。当两个分词器以不同方式切分文本时,它会合并词元,使两个模型能够基于相同文本进行比较。两个词表中都存在的词元会被直接比较,其余词元则按排序后的概率进行比较。
结果
同等规模下的准确率
在 Open ASR Leaderboard 多语言赛道上,Rumble-2-Flash 在中文、德语、法语、意大利语、西班牙语、葡萄牙语、印地语、荷兰语和英语上的平均错误率为 6.96%。这一成绩优于规模大 15 倍的 Meta omniASR-LLM 7B,也领先于 Whisper large-v3。在英语赛道上,其平均 WER 为 6.6%。
速度
Rumble-2-Flash 的速度也很快。其吞吐量取决于批次的填充程度:在 HF Open ASR Leaderboard 中规模较大的数据集上,由于批次能保持满载,它的吞吐量超过 7,000 RTFx。这意味着处理一小时的音频大约只需半秒。
真实电话通话
干净音频很容易处理。电话通话经过压缩且伴有噪声,说话者的口音往往也大不相同。在 AppTek 的呼叫中心基准测试中(包含 302 小时的求助热线通话、14 种英语口音,并使用 AppTek 自有脚本评分),Rumble-2-Flash 的 WER 达到 7.86%,与 NVIDIA 的 Nemotron 3.5 Transcribe(30B)的 7.78% 相当。这一成绩显著领先于同一模型家族的 Qwen3-ASR 0.6B(8.7%),也接近 Qwen3-ASR 1.7B(7.4%);后者是此次比较中唯一表现更好的模型。
试用
模型权重已发布在 Hub 的 Reson8/Rumble-2-Flash。你也可以通过我们的 API 使用它。
我们非常期待看到你会用它构建什么。请在“讨论”选项卡中告诉我们你制作了什么、喜欢哪些方面,以及希望在下一版本中看到哪些改进。
本文提及的模型 1
Reson8/Rumble-2-Flash
本文提及的数据集 1
apptek-com/apptek_callcenter_dialogues
本文提及的 Spaces 2
探索任意模型的在策略蒸馏可视化
Open ASR Leaderboard
探索并比较语音转文本模型基准
我们博客中的更多文章
AnySpeechRecognizer 与 AnyDecisionModel 简介:面向 Apple 平台的开放式语音与决策模型
埃及英语和尼日利亚英语加入 Open ASR Leaderboard
本文提及的模型 1
Reson8/Rumble-2-Flash
本文提及的数据集 1
apptek-com/apptek_callcenter_dialogues
本文提及的 Spaces 2
探索任意模型的在策略蒸馏可视化
Open ASR Leaderboard
探索并比较语音转文本模型基准
AI 热点