多语泛化正则算法

通过融合类型学、地理与谱系特征对齐多语言表示,使预训练模型对未知语言表现出高泛化能力。

Muhammad Farid, Adilazuarda · Cahyawijaya, Samuel · Winata, Genta Indra · Purwarianti, Ayu · Aji, Alham F.

2024

技术优势

少调参也能行

ALCHEMYSCALE 和 ALCHEMY-TUNE 自动调整各语言正则化权重,无需人工搜索超参数。

生僻语言也管用

在意图分类、新闻分类和语义相关度任务上显著提升低资源语言性能。

应用场景