语音翻译平均提升0.8 BLEU
利用ASR和MT注意力矩阵作为teacher,通过多任务学习正则化端到端语音翻译的交叉注意力,在MuST-C上显著优于基线模型。
Xiaohu, Zhao · Haoran, Sun · Yikun, Lei · 熊德意
Expert Systems with Applications 2024
利用ASR和MT任务的注意力矩阵作为教师信号来正则化ST的交叉注意力,使模型学习到更准确的语音-文本对齐。
在MuST-C的四个翻译方向上平均提升+0.8 BLEU,并超越现有最优的E2E和级联模型。
在不同规模的MT和ST数据下均表现稳定,证明方法对数据量不敏感。