自蒸馏异构图网络

同精度低算力

用双编码器分别捕获结构与语义信息,经Transformer融合后通过自蒸馏降低计算成本,性能优于现有方法。

李超 · Jike, Li · Runshuo, Liu · 段华 · Ya, Liu · 曾庆田

Engineering Applications of Artificial Intelligence 2026

技术优势

同精度低算力

自蒸馏机制将深层表示迁移到浅层,使模型在保持先进性能的同时,推理时无需经过全部深层,从而减少计算量。

结构与语义分开建模

双编码器架构让结构编码器专注拓扑依赖与节点交互,语义编码器提取上下文感知表达,互补的嵌入经 Transformer 融合后比单一编码器更契合异构图的复杂特性。

模型与代码开源

论文提供公开可用的实现,研究者可直接获取预训练模型与代码,快速复现结果或迁移到自己的异构图任务上,无需从零搭建。

应用场景