跨语言提示合成器

零数据对齐低资源

通过从多语言合成示例，该单元无需任何监督数据即可将LLM的生成能力迁移到低资源语言，并达到与监督少样本学习相当的水平。

Xuan-Phi, Nguyen · Aljunied, Sharifah Mahani · Joty, Shafiq Rayhan · Bing, Lidong

2024

参数信息

语言覆盖数

34

技术优势

零监督数据

完全不需要目标语言的标注数据，仅利用高资源语言的合成示例就能在低资源语言上激发生成能力。

跨模型通用

在不同规模的大模型上都有效，与监督少样本学习相当，说明方法不依赖特定模型架构或参数规模。

多任务提升

除了翻译，还在摘要、问答、指令跟随等低资源任务上显著提升，覆盖面广。

应用场景

• 多语言NLP：为低资源语言直接合成提示，无需目标语言数据即可让LLM执行任务。
• 语言翻译：在34种印度和非洲语言上达到监督少样本水平，可替代收集标注数据。
• 对话与指令跟随：提升低资源对话指令跟随效果，让对话系统覆盖更多语言。