压缩同时更抗噪
通过多任务学习蒸馏，使压缩后的语音表征对环境噪声和混响更鲁棒。
Heitor Rodrigues, Guimaraes · Arthur, Pimentel · Avila, Anderson R. · Rezagholizadeh, Mehdi · Boxing, Chen · Falk, Tiago H.
2023
24M参数的学生模型在多种噪声类型、噪声水平和混响时间下达到与95M教师模型相当的性能。
多任务学习目标使压缩后的表征对环境噪声和混响更加鲁棒，优于其他基准方法。