去噪互学习模型

跨语言迁移降噪

通过降噪去噪和伪标签互学习在多源跨语言迁移中显著优于现有最佳模型。

Ge, Ling · 胡春明 · 72208960 · Zhang, Hong · 刘继红

Information Processing and Management 2024

技术优势

抑制噪声预测

通过差异引导的去噪学习,让目标语言表示更具判别力,从而减少语言特定分类器的错误预测。

实现互学习

伪标签监督的互学习方法强制不同语言分类器之间进行概率分布交互,在无需目标语言标注的情况下实现知识迁移。

多任务多语言验证

在命名实体识别、复述识别、自然语言推理三个任务,同语系和跨语系两种多源组合,共39种语言上,多数指标超过基准和SOTA。

应用场景