关系图Transformer

六数据集全面领先

首个将Transformer有效应用于知识图谱表示的统一架构，通过关系增强注意力与上下文子图采样，在链路预测、问答和推荐任务上均优于现有基线。

Bi, Zhen · Cheng, Siyuan · 陈敬 · Xiaozhuan, Liang · 熊飞宇 · 张宁豫

Neurocomputing 2024

参数信息

数据集数量

6

技术优势

统一处理异质语义

通过Triple2Seq动态采样上下文子图序列，结合结构增强的自注意力机制，同时保留实体与关系的语义信息。

多任务即插即用

基于掩码知识建模的预训练表示可迁移至知识图谱补全、问答和推荐等多种下游任务，无需为不同任务重新设计架构。

六数据集全面领先

在六个标准数据集上的实验结果显示，Relphormer相对基线方法取得了更好的性能。

应用场景

• 知识驱动推荐系统：预训练知识表示可直接融入推荐模型，缓解冷启动并提升可解释性。
• 智能问答：为知识图谱问答提供更准确的实体与关系编码，支撑复杂推理路径。
• 实体链接与知识融合：统一的语义表示有助于度量实体相似性，提升实体链接与知识融合的准确性。
• 多模态知识推理：可扩展为多模态知识图谱编码器，支撑跨模态实体对齐与推理。