正则化交叉注意力学习

语音翻译平均提升0.8 BLEU

利用ASR和MT注意力矩阵作为teacher,通过多任务学习正则化端到端语音翻译的交叉注意力,在MuST-C上显著优于基线模型。

Xiaohu, Zhao · Haoran, Sun · Yikun, Lei · 熊德意

Expert Systems with Applications 2024

参数信息

BLEU提升
+0.8 BLEU

技术优势

对齐质量更高

利用ASR和MT任务的注意力矩阵作为教师信号来正则化ST的交叉注意力,使模型学习到更准确的语音-文本对齐。

翻译性能显著提升

在MuST-C的四个翻译方向上平均提升+0.8 BLEU,并超越现有最优的E2E和级联模型。

鲁棒性良好

在不同规模的MT和ST数据下均表现稳定,证明方法对数据量不敏感。

应用场景