跳到正文
Hugging Face Blog·· 5 小时前AI 评分54

IBM 发布 Granite Speech 5.0 语音模型更新,覆盖转录、翻译与说话人区分

Granite Speech 5.0: Transcribe, Translate, and Attribute more Accurately and Faster

AI 导读

IBM 发布 Granite Speech 系列三项更新:新模型 granite-speech-5.0-2b,以及修订版 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。

正文 · AI 翻译

我们很高兴地宣布 IBM Granite Speech 系列的三项更新:全新的语音语言模型 granite-speech-5.0-2b,以及社区已在使用的两个模型的修订版,granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。它们共同覆盖了企业语音工作的全部场景:高精度的转录与翻译、边缘端极速转录,以及“谁在何时说话”与“说了什么”同样重要的录音。

模型 状态 更新内容 最适用于
granite-speech-5.0-2b 新增 更准确、对噪声和混响更鲁棒的自动语音识别(ASR)、语言 ID 提示、2,000 个词条的关键词偏置、更好的长篇翻译 高精度多语言转录与翻译
granite-speech-5.0-470m-turboctc 更新 多语言、原生标点和大小写、对噪声和混响更鲁棒 高吞吐量和端侧转录
granite-speech-4.1-2b-plus 更新 改进的说话人归属、时间戳、关键词偏置和长语音性能 会议、通话及其他多说话人录音

Granite Speech 5.0 2B:更准确、更鲁棒、更可控

granite-speech-5.0-2b 是同等参数规模下 granite-speech-4.1-2b 的后继者。它能转录英语、法语、德语、西班牙语、葡萄牙语和日语,并支持这些语言与英语之间的互译,外加英语到意大利语和中文普通话的翻译。该模型基于 39 万小时的公开音频训练,另外还加入了专为日语 ASR、关键词偏置和翻译构建的合成数据。

与 4.1 2B Speech 相比的新变化:

  • 更准确、更鲁棒的英语 ASR:在英语短篇基准测试中准确度更高,对噪声、混响和远场麦克风语音的处理能力更强。
  • 语言 ID 提示:在提示中指定输入语言,以引导多语言转录。
  • 更好的长篇和会话翻译:面对更长、更自然的语音,翻译质量依然稳定,不再只限于简短的朗读句子。
  • 最多 2,000 个词条的关键词列表:在所有支持的语言中,让转录和翻译偏向产品名称、人名和缩写。
  • 按需提供标点和大小写:可在提示中要求格式化输出;在我们各测试集上的大小写 F1 得分范围为 89.7 至 99.5。

该模型以 Apache 2.0 许可发布,并支持 Transformers、vLLM、llama.cpp 以及面向 Apple Silicon 的 mlx-audio。

granite-speech-5.0-2b average English WER compared with top open-weight ASR models

图表 1:granite-speech-5.0-2b 在主流开放权重 ASR 模型中,平均英语 WER(5.06%)排名第二。数值越低越好。结果为非官方数据,截至 2026 年 10 月 15 日,取自 Open ASR Leaderboard 公开的英语短篇测试集平均值。

Granite Speech 5.0 Turbo CTC:现已支持多语言、更鲁棒、而且更快

当我们 在八月发布 Turbo CTC 时,它还是一个仅支持英语、为速度而生的 4.7 亿参数编码器。此次修订保持了原有的模型规模,并加入了用户最需求的三项功能:

  • 多语言转录:支持英语、日语、西班牙语、德语、法语、意大利语和葡萄牙语。
  • 原生标点和大小写:转录文本输出即可阅读,无需单独的标点恢复或大小写还原步骤。
  • 在困难声学环境下更鲁棒:针对混响音频的显式训练使 Turbo CTC 在有回声的房间和远场录音中表现更稳健。

速度也更快了。通过编译单个 Conformer 块并在整个堆栈中复用其计算图,我们缩短了预热时间,将 Turbo CTC 在 Open ASR Leaderboard 上的 RTFx 推高至 19,870,相比发布时的约 12,600 RTFx:在相同准确率水平下快约 1.6 倍。

图 2:Open ASR Leaderboard 上的平均 WER 与 RTFx 对比(英语短音频,9 个公开测试集,截至 2026 年 10 月)。WER 越低、RTFx 越高越好;RTFx 采用对数刻度。

Granite Speech 4.1 2B Plus:更精准地识别谁在何时说了什么

更新后的 granite-speech-4.1-2b-plus 针对企业实际拥有的录音进行了调优:多个说话人参与的长会议、客服电话和访谈。它保留 4.1 名称,因为架构、提示格式和 API 均未改变,因此可以作为当前模型的直接替代品,只需更换改进后的权重。此版本改进了四个方面:

  • 说话人归属:更准确地标注谁在说话。词级说话人分离错误率(WDER)下降 7%,整体说话人归属 WER(cpWER)下降 7%。
  • 时间戳:平均时间戳偏移(AAS)减少了一半以上,使字幕、搜索和审阅中的时间更精准。
  • 长语音性能:长音频测试集上的 WER 下降 24%。
  • 关键词偏置:使用包含 20 个词的关键词列表时,偏置关键词的错误率下降 45%。
能力 指标 上一版本 更新后的模型
时间戳,全部语音 AAS(平均时间戳偏移) 210.86 98.54
时间戳,短语音 AAS(平均时间戳偏移) 29.27 26.20
关键词偏置 偏置词 WER,20 词列表 11.79 6.48
长音频 WER,长音频测试集 13.53 10.22
说话人归属 WDER 4.40 4.10
说话人归属的转录文本 cpWER 30.50 28.48

表 1:所有指标均为错误率,数值越低越好。更多详细结果,请参阅模型卡。

开始使用

不确定该选择哪个模型?从这里开始:

这些模型均以 Apache 2.0 许可证发布,并在 Transformers 中提供原生支持。完整的评估结果、架构细节、训练数据和使用示例见各模型卡。对于需要额外风险检测的生产部署,我们建议将它们与 Granite Guardian 搭配使用。

快来试用并告诉我们你的想法吧!

来源: Hugging Face Blog · huggingface.co