语音模型

0.5B 的转写模型,40 多种语言,权重免费:但它给媒体的英语错误率,比自家博文好看一截

2026年11月19日1 次阅读Read in English
0.5B 的转写模型,40 多种语言,权重免费:但它给媒体的英语错误率,比自家博文好看一截

一句话先说结论

荷兰公司 Reson8 在 11 月 18 日把 Rumble-2-Flash 的权重按 Apache 2.0 放了出来:一个 5 亿参数的语音转文字模型,支持 40 多种语言,官方说它能跟体积大 3 到 60 倍的模型掰手腕。它确实便宜、确实小、确实能商用;但同一批数字在官方博文和给媒体的版本里并不一致,动手之前值得先看清楚哪一份在量什么。

这到底是什么

先说清楚它不是什么:Rumble-2-Flash 是语音识别(ASR),把音频转成文字,不是那种能跟你对话的语音模型。它没有"听你说完再回答"的能力,输出的是转写文本。

时间线也容易搞混,按已有信息理一遍:

  • 10 月 14 日,Hugging Face 上的模型仓就建好了;
  • 11 月 3 日,这个模型先在 Reson8 的 API 里上线;
  • 大约 11 月 10 日,Reson8 发布了旗舰模型 Rumble-2;
  • 11 月 18 日,才是这次真正的新闻:Rumble-2-Flash 的权重开放下载。

所以标题里的"发布"指的是权重开源,不是模型第一次露面。这个区别很重要——如果你上周就听说它了,那不是错觉。

为什么值得看

三件事凑在一起,让它不像又一个"小模型刷榜"。

第一,0.5B 这个尺寸是真的小。 模型卡里 safetensors 记录的总参数是 508,631,552,BF16 精度。这个量级意味着它不必住在 GPU 集群里,边缘设备、单卡、甚至手机侧都有想象空间。

第二,许可证是 Apache 2.0。 不是"研究用途",不是"需申请",是可以直接拿去做商业产品的。语音转写这条链路上,许可证经常比准确率更能决定你能不能上线。

第三,它瞄准的是英语之外的语种。 Reson8 给媒体的说法是:主流语音模型基本按英语训练,但全球只有大约二十分之一的人以英语为母语。荷兰语、瑞典语、德语这些"有几百万人说、却被当成附属品"的语言,是它的主打场景。这话有商业动机,但问题本身是真的。

那些数字,得拆开看

这是这篇文章最想讲的部分。同一家公司在两个场合给出的数字,并不完全对得上。

多语言平均错误率:6.96% 还是 7.09%?

  • 官方博文写的是:在 Hugging Face Open ASR Leaderboard 的多语言轨上,中文、德语、法语、意大利语、西班牙语、葡萄牙语、印地语、荷兰语、英语九个语种平均错误率 6.96%,优于大它 15 倍的 Meta omniASR-LLM 7B,也好于 Whisper large-v3。
  • 给媒体的版本写的是:公司自己跑同一套榜单的多语言测试,七个语种(含德语、法语、荷兰语)平均 7.09%。

两个数都可能是真的——语种集合不同(9 个 vs 7 个),跑的人也不同(榜单官方跑 vs 公司自己跑)。但读者要知道:这不是同一个测量,不能互相替换。

英语错误率:6.6% 还是"约 5%"?

  • 博文:Open ASR Leaderboard 英语轨平均 6.6%。
  • 媒体稿:英语"大约 5%"。

差了 1.6 个百分点,在 WER 这个尺度上不算小。博文的口径是可复核的榜单;"约 5%"是公司自述。要用在预算或验收里,请用前者。

低资源语言:17.6% 对 39.82%,这个对比最扎实

在 10 种低资源语言(马尔他语、巴斯克语这类)上,Rumble-2-Flash 平均错误率 17.6%,同一测试里 Whisper large-v3 是 39.82%。这是全部对比里差距最大、也最能说明"它不是给英语优化的"的一组数字。

真实电话客服:7.86%,但它是"并列"里偏差的那个

在 AppTek 的客服基准上(302 小时热线录音、14 种英语口音),Rumble-2-Flash 是 7.86%:

  • NVIDIA Nemotron 3.5 Transcribe(30B):7.78%
  • Rumble-2-Flash(0.5B):7.86%
  • Qwen3-ASR 1.7B:7.4%
  • Qwen3-ASR 0.6B:8.7%

官方措辞是"与 Nemotron 3.5 Transcribe 持平"。严格讲,它比 Nemotron 差 0.08 个百分点,也比同门师兄 Qwen3-ASR 1.7B 差 0.46 个百分点。0.5B 打到这个位置已经很能打,但"持平"是修辞,"略输"是事实。

顺带一提,它的架构就是 Qwen3-ASR 那一套——博文自己写了"用 Qwen3-ASR 的架构换取 day-0 支持"。所以它和 Qwen3-ASR 系列同台比,本质上是同一个骨架下的不同蒸馏产物,输给更大的同门并不意外。

速度:7000 RTFx 是满 batch 的成绩

博文说"一小时音频大约半秒转完,满 batch 下超过 7000 RTFx"。这句话里的限定词"满 batch"是关键:吞吐高不等于单路延迟低。它面向的是"转写已录好的音频",不是实时通话。需要边说边出字的场景,这次没有给任何流式延迟数据。

它是怎么做到的

技术路线上有一点值得记:它是从更大的生产模型 Rumble-2 蒸馏出来的,用的是 on-policy 蒸馏——学生模型自己先转写,教师模型按 token 逐位给概率、逐位纠正,而不是拿教师写好的文本当标准答案去背。因为学生是在自己的错误上被纠正,效果比"一整个片段给一个分数"更细。

难点在于两边的分词器不一样(它用了 Qwen3-ASR 的词表)。他们用一套叫 GOLD 的方法把分词方式不同的文本对齐到同一段文字上再比概率,绕开了"教师和学生必须共用分词器"这个限制。这部分对做蒸馏的人是可复用的经验。

怎么用

  • 本地跑:权重在 Hugging Face 的 Reson8/Rumble-2-Flash,Transformers 和 vLLM 原生支持,不需要 trust_remote_code,也不需要改运行时。这一点比很多"开源但要自己打补丁"的模型省事。
  • 调输出格式:它有几个控制开关——数字输出成阿拉伯数字还是英文单词、保留还是丢掉"嗯、呃"这类填充词、重复词保留还是合并、强制指定语言或让它自动识别。做字幕和做会议纪要,这几个开关的取值是不一样的。
  • 走 API:Reson8 也提供托管接口(模型 11 月 3 日就上线了),自建机房在荷兰,声称不留存音频与转写。需要合规材料的话,他们自称有 ISO 27001、符合 GDPR 与欧盟 AI Act——这类自述建议自己验证。

适用场景:适合谁、什么情况适合

  • 你要转写的语言不是英语,尤其是荷兰语、德语、北欧语言、印度语种这类"主流模型不太上心"的语种;
  • 你要把转写放进自己的产品里,且不想被许可条款卡住(Apache 2.0);
  • 你要在本地或边缘设备上跑,不想把音频传出去;
  • 你处理的是已录好的音频,对吞吐敏感、对几十毫秒的延迟不敏感。

不适用场景:哪些人不适合

  • 需要自定义词表:最多 5 万条术语的自定义词表功能,仍然是旗舰 Rumble-2 专属,Flash 没有。医疗、法律这类满是专有名词的场景,这一条可能直接否掉它。
  • 需要实时流式:没有公布流式延迟,定位就是"预录音频的快速转写"。
  • 需要每通电话都算钱的精确预算:媒体给的 API 价是"每音频小时 0.01 欧元起"(约合 0.001 美元)。这个数字低得反常——按它算,1000 小时音频只要 10 欧元。要么是媒体抄错了单位,要么是极低档的促销价,用之前必须自己去官网核价。
  • 需要中文/日文的最优解:它支持中文(模型卡语言标签里有 zh、yue、ja、ko,榜单多语言轨也含中文),但没有任何按语种拆分的公开成绩,别假设 40 多种语言都一样准。

避坑:几个容易踩的坑

  1. 把 7000 RTFx 当成"实时"。它是满 batch 的吞吐,单条长音频的端到端延迟没有数据。
  2. 把两个错误率混着引用。6.96% 是九语榜单成绩,7.09% 是七语自测;6.6% 是英语榜单,5% 是公司口径。写进方案里要注明哪一个。
  3. 把"与 30B 持平"读成"等于 30B"。7.86% 对 7.78%,是同一水平线上的微小差距,不是打平;同门 1.7B 还更好。
  4. 忽略它是蒸馏产物。它继承的是 Qwen3-ASR 的架构与词表,未来上游更新、或者你需要深度定制时,这个血缘关系会变成约束。
  5. 看下载量判断成熟度。抓取时 Hugging Face 上显示 453 次下载、84 个赞——刚开源几小时,社区反馈、微调版本、踩坑记录都还没有。

如果你是做决策的那个人

第一步,别先看榜,先做一件更便宜的事:从你自己的业务录音里挑 200 条,覆盖你最在意的语种和最差的录音条件(车内、嘈杂、口音重),跑三件事——Rumble-2-Flash、你现在的方案、以及 Qwen3-ASR 1.7B(它的直接上游)。同一批音频、同一套评分脚本,只比 WER 和每千小时成本。

第二步,把"是否需要自定义词表"提前确认。如果需要,Flash 这条线现在走不通,得看 Rumble-2 的 API。

参考来源

  • 官方博文(2026-11-18):https://huggingface.co/blog/rumble-2-flash
  • 模型卡与参数(Apache 2.0,508,631,552 参数):https://huggingface.co/Reson8/Rumble-2-Flash
  • 媒体报道(2026-11-18,含公司自测数字、API 定价、公司背景):https://siliconangle.com/2026/11/18/reson8-releases-rumble-2-flash-speech-model-as-a-free-open-weights-download/

本文事实以官方博文、模型卡与上述媒体报道交叉核对整理;两家口径不一致之处已在文中逐一标注。

参考来源

评论

0 条已公开
登录或注册后可以参与评论。

正在加载评论...