Hugging Face来源发布时间

Granite Speech 5.0:更准确、更快速地转录、翻译和归因

我们很高兴分享 IBM Granite Speech 系列的三项更新:一个新的语音语言模型 granite-speech-5.0-2b,以及社区已在使用的两个模型的修订版本: granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。它们共同覆盖了企业语音工作的全部范围:高精度的转录和翻译、边缘设备上极快速的转录,以及说话者是谁、何时说话与所说的内容同等重要的录音。

我们很高兴分享 IBM Granite Speech 系列的三项更新:一个新的语音语言模型 granite-speech-5.0-2b,以及社区已在使用的两个模型的修订版本: granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。它们共同覆盖了企业语音工作的全部范围:高精度的转录和翻译、边缘设备上极快速的转录,以及说话者是谁、何时说话与所说的内容同等重要的录音。

模型 状态 新特性 最适用于
granite-speech-5.0-2b 新增 更准确、更抗噪声和混响的自动语音识别(ASR)、语言 ID 提示、2,000 词的关键词偏置、更好的长篇翻译 高精度多语言转录和翻译
granite-speech-5.0-470m-turboctc 已更新 多语言、原生标点和大小写,对噪声和混响更鲁棒 高吞吐量和设备端转录
granite-speech-4.1-2b-plus 已更新 改进的说话者归因、时间戳、关键词偏置和长语音性能 会议、通话和其他多说话人录音

Granite Speech 5.0 2B:更准确、更鲁棒、更可控

granite-speech-5.0-2b 是 granite-speech-4.1-2b 在相同参数量下的继任者。它能转录英语、法语、德语、西班牙语、葡萄牙语和日语,并在这些语言与英语之间进行翻译,还支持从英语翻译到意大利语和中文普通话。它使用了 390,000 小时的公开音频进行训练,外加为日语 ASR、关键词偏置和翻译构建的合成数据。

与 4.1 2B Speech 相比的新特性:

  • 更准确、更鲁棒的英语 ASR: 在英语短篇基准测试上准确率更高,对噪声、混响和远场麦克风语音的处理能力更好。
  • 语言 ID 提示: 在提示中指定输入语言,以引导多语言转录。
  • 更好的长篇和会话翻译: 翻译在更长、更自然的语音中依然保持质量,而不仅仅是短句朗读。
  • 支持最多 2,000 个词条的关键词列表: 在所有受支持的语言中,将转写和翻译向产品名称、人名和缩略词倾斜。
  • 按需提供标点和大小写: 在提示词中要求格式化输出;在我们的测试集上,大小写 F1 的范围从 89.7 到 99.5。

该模型以 Apache 2.0 许可发布,并在 Transformers、vLLM、llama.cpp 以及面向 Apple Silicon 的 mlx-audio 中提供支持。

图表 1:granite-speech-5.0-2b 在平均英语 WER(5.06%)上位列顶级开放权重 ASR 模型第 2 名。数值越低越好。结果为官方结果,截至 2026 年 10 月 21 日,是对 Open ASR Leaderboard 公开英语短音频测试集的平均值。

Granite Speech 5.0 Turbo CTC:现已支持多语言、更加稳健、并且更快

当我们 于 8 月推出 Turbo CTC 时,它是一个仅支持英语、拥有 470M 参数、为速度而构建的编码器。此次版本更新保持了相同的模型规模,并添加了用户最希望拥有的三项功能:

  • 多语言转写: 英语、日语、西班牙语、德语、法语、意大利语和葡萄牙语。
  • 原生标点与大小写: 转录结果可直接阅读,无需单独的标点或大小写还原步骤。
  • 在困难声学环境下更稳健: 针对混响音频的专门训练使 Turbo CTC 在有回声的房间和远场录音中更加稳健。

它还更快。通过编译单个 Conformer 块并在整个堆栈中复用其计算图,我们将预热时间缩短,并把 Turbo CTC 在 Open ASR Leaderboard 上的成绩提升到 19,870 RTFx,相比发布时的大约 12,600 RTFx:约快 1.6 倍,同时保持相同的准确率水平。

图 2:Open ASR Leaderboard 上的平均 WER 与 RTFx 对比(英语短音频,9 个公开测试集,截至 2026 年 10 月)。WER 越低、RTFx 越高越好;RTFx 采用对数刻度。

Granite Speech 4.1 2B Plus:更准确地识别谁在何时说了什么

更新后的 granite-speech-4.1-2b-plus 针对企业实际拥有的录音进行调优:包含多位发言人的漫长会议、支持电话和访谈。它保留了 4.1 的名称,因为架构、提示格式和 API 均未改变,因此可作为当前模型的直接替代品,仅权重有所改进。此版本改进了四个方面:

  • 说话人归属: 更准确地标注谁在说话。词级说话人分离错误率(WDER)下降 7%,说话人归属 WER(cpWER)整体下降 7%。
  • 时间戳: 平均时间戳偏移(AAS)缩短了一半以上,使字幕、搜索和审阅中的时间更精确。
  • 长语音性能: 长音频测试集上的 WER 下降 24%。
  • 关键词偏置: 使用 20 词关键词列表时,偏置关键词上的错误减少 45%。
能力 指标 上一版本 更新后的模型
时间戳,所有语音 AAS(平均时间戳偏移) 210.86 98.54
时间戳,短语音 AAS(平均时间戳偏移) 29.27 26.20
关键词偏置 偏置词 WER,20 词列表 11.79 6.48
长音频语音 WER,长音频测试集 13.53 10.22
说话人归属 WDER 4.40 4.10
说话人归属转录 cpWER 30.50 28.48

表 1:所有指标均为错误率,数值越低越好。有关更详细的结果,请参见 模型卡.

开始使用

不确定该选择哪个型号?从这里开始:

这些模型均以 Apache 2.0 许可证发布,并在 Transformers 中获得原生支持。完整的评估结果、架构细节、训练数据和用法示例可在每个模型卡片上查看。我们建议将它们与 Granite Guardian 搭配使用,以用于需要额外风险检测的生产部署。

试用一下吧,并告诉我们你的想法!

原始出处

Hugging Face

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准