多语言语义对齐网络

层次对齐领先

该网络通过多级语义对齐和注意力融合机制,在低资源语言迁移任务上实现最先进性能。

Anchun, Gui · 肖寒

Neural Networks 2024

技术优势

层级语义对齐

通过多级对齐训练任务学习词到词、句到词的语义关联,避免单一层次对齐导致的信息丢失。

注意力融合机制

利用注意力融合机制将高层语义信息注入低层表示,提升下游任务性能。

跨任务最先进

在文本分类、释义识别、命名实体识别等主流跨语言任务上均取得最先进结果。

应用场景