IBM 发布 Granite Speech 5.0 语音模型更新,覆盖转录、翻译与说话人区分
Granite Speech 5.0: Transcribe, Translate, and Attribute more Accurately and Faster
IBM 发布 Granite Speech 系列三项更新:新模型 granite-speech-5.0-2b,以及修订版 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。
我们很高兴地宣布 IBM Granite Speech 系列的三项更新:全新的语音语言模型 granite-speech-5.0-2b,以及社区已在使用的两个模型的修订版,granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。它们共同覆盖了企业语音工作的全部场景:高精度的转录与翻译、边缘端极速转录,以及“谁在何时说话”与“说了什么”同样重要的录音。
| 模型 | 状态 | 更新内容 | 最适用于 |
|---|---|---|---|
granite-speech-5.0-2b |
新增 | 更准确、对噪声和混响更鲁棒的自动语音识别(ASR)、语言 ID 提示、2,000 个词条的关键词偏置、更好的长篇翻译 | 高精度多语言转录与翻译 |
granite-speech-5.0-470m-turboctc |
更新 | 多语言、原生标点和大小写、对噪声和混响更鲁棒 | 高吞吐量和端侧转录 |
granite-speech-4.1-2b-plus |
更新 | 改进的说话人归属、时间戳、关键词偏置和长语音性能 | 会议、通话及其他多说话人录音 |
Granite Speech 5.0 2B:更准确、更鲁棒、更可控
granite-speech-5.0-2b 是同等参数规模下 granite-speech-4.1-2b 的后继者。它能转录英语、法语、德语、西班牙语、葡萄牙语和日语,并支持这些语言与英语之间的互译,外加英语到意大利语和中文普通话的翻译。该模型基于 39 万小时的公开音频训练,另外还加入了专为日语 ASR、关键词偏置和翻译构建的合成数据。
与 4.1 2B Speech 相比的新变化:
- 更准确、更鲁棒的英语 ASR:在英语短篇基准测试中准确度更高,对噪声、混响和远场麦克风语音的处理能力更强。
- 语言 ID 提示:在提示中指定输入语言,以引导多语言转录。
- 更好的长篇和会话翻译:面对更长、更自然的语音,翻译质量依然稳定,不再只限于简短的朗读句子。
- 最多 2,000 个词条的关键词列表:在所有支持的语言中,让转录和翻译偏向产品名称、人名和缩写。
- 按需提供标点和大小写:可在提示中要求格式化输出;在我们各测试集上的大小写 F1 得分范围为 89.7 至 99.5。
该模型以 Apache 2.0 许可发布,并支持 Transformers、vLLM、llama.cpp 以及面向 Apple Silicon 的 mlx-audio。
图表 1:granite-speech-5.0-2b 在主流开放权重 ASR 模型中,平均英语 WER(5.06%)排名第二。数值越低越好。结果为非官方数据,截至 2026 年 10 月 15 日,取自 Open ASR Leaderboard 公开的英语短篇测试集平均值。
Granite Speech 5.0 Turbo CTC:现已支持多语言、更鲁棒、而且更快
当我们 在八月发布 Turbo CTC 时,它还是一个仅支持英语、为速度而生的 4.7 亿参数编码器。此次修订保持了原有的模型规模,并加入了用户最需求的三项功能:
- 多语言转录:支持英语、日语、西班牙语、德语、法语、意大利语和葡萄牙语。
- 原生标点和大小写:转录文本输出即可阅读,无需单独的标点恢复或大小写还原步骤。
- 在困难声学环境下更鲁棒:针对混响音频的显式训练使 Turbo CTC 在有回声的房间和远场录音中表现更稳健。
速度也更快了。通过编译单个 Conformer 块并在整个堆栈中复用其计算图,我们缩短了预热时间,将 Turbo CTC 在 Open ASR Leaderboard 上的 RTFx 推高至 19,870,相比发布时的约 12,600 RTFx:在相同准确率水平下快约 1.6 倍。
图 2:Open ASR Leaderboard 上的平均 WER 与 RTFx 对比(英语短音频,9 个公开测试集,截至 2026 年 10 月)。WER 越低、RTFx 越高越好;RTFx 采用对数刻度。
Granite Speech 4.1 2B Plus:更精准地识别谁在何时说了什么
更新后的 granite-speech-4.1-2b-plus 针对企业实际拥有的录音进行了调优:多个说话人参与的长会议、客服电话和访谈。它保留 4.1 名称,因为架构、提示格式和 API 均未改变,因此可以作为当前模型的直接替代品,只需更换改进后的权重。此版本改进了四个方面:
- 说话人归属:更准确地标注谁在说话。词级说话人分离错误率(WDER)下降 7%,整体说话人归属 WER(cpWER)下降 7%。
- 时间戳:平均时间戳偏移(AAS)减少了一半以上,使字幕、搜索和审阅中的时间更精准。
- 长语音性能:长音频测试集上的 WER 下降 24%。
- 关键词偏置:使用包含 20 个词的关键词列表时,偏置关键词的错误率下降 45%。
| 能力 | 指标 | 上一版本 | 更新后的模型 |
|---|---|---|---|
| 时间戳,全部语音 | AAS(平均时间戳偏移) | 210.86 | 98.54 |
| 时间戳,短语音 | AAS(平均时间戳偏移) | 29.27 | 26.20 |
| 关键词偏置 | 偏置词 WER,20 词列表 | 11.79 | 6.48 |
| 长音频 | WER,长音频测试集 | 13.53 | 10.22 |
| 说话人归属 | WDER | 4.40 | 4.10 |
| 说话人归属的转录文本 | cpWER | 30.50 | 28.48 |
表 1:所有指标均为错误率,数值越低越好。更多详细结果,请参阅模型卡。
开始使用
不确定该选择哪个模型?从这里开始:
- 需要高精度转录、翻译或关键词偏置?使用 granite-speech-5.0-2b。
- 需要极致速度或端侧转录?使用 granite-speech-5.0-470m-turboctc,并通过我们的 WebGPU 流式演示在浏览器中试用。
- 处理会议或多说话人通话?使用 granite-speech-4.1-2b-plus。
这些模型均以 Apache 2.0 许可证发布,并在 Transformers 中提供原生支持。完整的评估结果、架构细节、训练数据和使用示例见各模型卡。对于需要额外风险检测的生产部署,我们建议将它们与 Granite Guardian 搭配使用。
快来试用并告诉我们你的想法吧!
来源: Hugging Face Blog · huggingface.co
