层次对齐领先
该网络通过多级语义对齐和注意力融合机制,在低资源语言迁移任务上实现最先进性能。
Anchun, Gui · 肖寒
Neural Networks 2024
通过多级对齐训练任务学习词到词、句到词的语义关联,避免单一层次对齐导致的信息丢失。
利用注意力融合机制将高层语义信息注入低层表示,提升下游任务性能。
在文本分类、释义识别、命名实体识别等主流跨语言任务上均取得最先进结果。