DeepL 发布 Aure 语音模型,实时翻译可保留语气、语速和情绪
DeepL wants real-time translation to finally capture sarcasm and mood shifts
DeepL 推出新的 Aure 模型,能将说话者的语气、情绪、重音和语速延续到目标语言中,改变了此前依赖会话开始时静态语音样本、无法捕捉情绪变化和讽刺的方式。Aure 在对话过程中持续分析译文和原始音频,训练时将音色、语音旋律和内容分离以独立迁移,并通过强化学习去除口音,自动运行于 DeepL Voice 的在线会议、面对面对话和 DeepL API。
DeepL Voice 的实时翻译即将听起来自然得多。该公司的新模型 Aure 能将原始说话者语气中的音调、情感、重音和语速延续到目标语言中。在此之前,DeepL Voice 是根据对话开始时捕获的一段静态语音样本来生成翻译语音的。这意味着它无法感知情绪变化或讽刺。Aure 的工作方式不同,它会在对话进行过程中持续分析翻译后的文本和原始音频。
在训练过程中,DeepL 将声音身份、语音旋律和内容分离开来,使每个组件都能独立地迁移到新语言中。强化学习可确保输出中不带口音。Aure 在 DeepL Voice for Online Meetings、In-Person Conversations 以及 DeepL API 中自动运行。发布时,该模型支持英语、德语、西班牙语、法语、意大利语、日语、葡萄牙语和韩语。
DeepL 早在 九月就推出了语音保留功能。今年五月,该公司裁减了约 250 个岗位,围绕更小规模的 AI 驱动团队进行重组,这是其所谓成为一家“AI 原生”公司的一部分。DeepL 还收购了音频流媒体专家 Mixhalo 背后的团队,以增强其实时语音翻译能力。Block 也在追求类似的目标,即捕捉言语之外的含义。该公司最近发布了 Dessa,这是一个旨在直接从音频中检测情感和讽刺的语音模型。
AI News Without the Hype – Curated by Humans
订阅 THE DECODER,享受无广告阅读、每周 AI 新闻通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。
来源: The Decoder · the-decoder.com