多重依存命名实体识别模型

跨语料自适应

通过多头注意力与交叉注意力协同编码字词关联，结合联合预测器与CRF实现嵌套实体的多维度识别，相比现有模型在司法文档上表现更优。

Yu, Haoze · Qunhe, Ji · Yan, Li · 尹焕樸 · 李海生 · Li, Xiaohui · 杜军平

Information Fusion 2026

技术优势

跨语料泛化

在中文语料、英文语料和自建司法文档语料库上均优于现有模型，证明其适应性和可迁移性。

嵌套实体可识别

通过联合预测器和CRF实现多维协同识别和标签序列优化，能处理司法文档中跨度大的嵌套实体。

组件有效性已验证

消融实验证实集成注意力（MHA-CA）和CRF对模型性能至关重要。

应用场景

• 司法知识图谱构建：作为关键前置步骤，自动抽取司法文档中的实体以构建知识图谱。
• 垂直领域大模型：支持司法机构垂直大模型的本地部署与数据扩展。
• 自然语言处理：为嵌套实体识别提供一种新的多重依存建模方法。