自适应损失权重元学习

低资源语音识别更稳定

用同方差不确定性自动调整各语言的损失权重，免去手动调参，让模型在低资源语音识别上更稳定、更易泛化。

Qiulin, Wang · Wenxuan, Hu · Lin, Li · 洪青阳

2023

技术优势

免去手动调权

损失权重由 CNN 根据同方差不确定性自动学习，无需人工调整各语言权重。

训练更稳定

所提方法改善了 MAML 的稳定性与泛化性，优于先前方法。

应用场景

• 低资源语音识别：用少量目标语言数据微调，快速获得可用识别模型。
• 多语言模型适配：无需手工权衡各语言贡献，自动适配新语言。
• 元学习优化：改进 MAML 的优化过程，降低训练不稳定性。