藏语小样本精度升6.8%
针对低资源语言的深度上下文双层级词嵌入方案,为藏语小样本学习提供特征表征增强与泛化优化。
Ziyue, Zhang · 于永斌 · Wang, Xiangxiang · Xiao, Feng · Yuze, Li · Jiarun, Shen · Dorje, Tashi · Jin, Zhang · Lobsang, Yeshi · 李磊 · Tashi, Nyima · 蔡竟业
CAAI Transactions on Intelligence Technology 2025
模型通过BoBERT预训练嵌入和全上下文嵌入的两级组合,同时捕获局部和全局信息,避免了对有限样本的浅层理解。
在所有藏语小样本任务上,TWE-MN相比原始匹配网络平均准确率提升4.5%–6.5%,证明了该架构在低资源场景下的有效性。
该模型不仅适用于小样本学习,在文本分类和机器翻译等任务上也表现出潜力,可作为多种藏语NLP任务的通用基础。