印尼语生成大模型

低资源语言性能飞跃

专为印尼语及其原住民语言优化的开源指令调优大模型系列,覆盖多种架构与规模,显著缩小低资源语言的性能差距。

Cahyawijaya, Samuel · Holy, Lovenia · Koto, Fajri · Putri, Rifki Afina Rizka Qori Yuliani · Dave, Emmanuel · Jhonson, Lee · Nuur, Shadieq · Wawan, Cenggoro · 78956063 · Muhammad Ihza, Mahendra · Dea Annisayanti, Putri · Wilie, Bryan · Winata, Genta Indra · Aji, Alham F. · Purwarianti, Ayu · Pascale, Fung

2024

参数信息

任务性能提升
20 %

技术优势

跨任务泛化强

模型在训练任务之外的未见任务和原住民语言上也能正常工作,减少了为每个新任务单独训练的负担。

更符合人类偏好

在人工评估中,Cendol 模型的输出比基线更受认可,有助于提升用户体验。

安全对齐可迁移

英语预训练阶段的安全对齐能力可迁移到印尼语,无需对每种低资源语言单独进行 RLHF 或安全微调。

应用场景