约束解码BART联合提取器

与基础序列到序列BART不同,该框架利用约束分类器在每步解码中仅预测输入token或关系,并重用编码器表示来更好利用预训练知识,从而在实体关系联合抽取中取得最先进性能。

Chang, Hongyang · Xu, Hongfei · van Genabith, Josef · 熊德意 · Zan, Hongving Ying

IEEE/ACM Transactions on Audio Speech and Language Processing 2023

参数信息

NYT数据集精确匹配F1
92.91 %
WebNLG数据集精确匹配F1
91.37 %

技术优势

解码更可控

分类器在每步解码时仅从输入token或预定义关系中预测,避免生成无效实体或关系,保证输出序列的合法性。

复用编码器知识

分类器直接复用预训练BART编码器的表示,而非重新训练权重矩阵,从而更好地利用预训练知识和上下文感知表示,提升分类性能。

取得最高精度

在广泛使用的NYT和WebNLG数据集上,该方法超越了已有研究,建立了新的最先进结果(精确匹配F1分别为92.91和91.37)。

应用场景