通过融合类型学、地理与谱系特征对齐多语言表示,使预训练模型对未知语言表现出高泛化能力。
Muhammad Farid, Adilazuarda · Cahyawijaya, Samuel · Winata, Genta Indra · Purwarianti, Ayu · Aji, Alham F.
2024
ALCHEMYSCALE 和 ALCHEMY-TUNE 自动调整各语言正则化权重,无需人工搜索超参数。
在意图分类、新闻分类和语义相关度任务上显著提升低资源语言性能。