多任务协同训练网络

语音翻译大幅提升

通过对语音翻译、语音识别和机器翻译任务的协同训练,在不增加额外数据的情况下,显著提升端到端语音翻译的性能。

Yue, Zhou · Yuxuan, Yuan · 史晓东

Neural Computing and Applications 2024

技术优势

子网络角色不混乱

通过模型解耦与参数共享方法,确保各子网络在训练中扮演一致角色,避免角色错位带来的性能损失。

语义不一致少

联合建模 ST、MT 和 ASR 任务,充分利用任务之间的关联,减少语义不一致问题。

跨任务知识迁移充分

采用协同训练策略利用三元组数据中的任务信息,使 ASR 增强声学编码器的局部信息捕获,MT 增强模型翻译能力。

应用场景