动态稀疏嵌入网络

训练抗过拟合

用稀疏连接取代稠密层，在不牺牲特征提取的前提下提升网络鲁棒性。

Chuhong, Yang · 李斌 · 武楠

Lecture Notes in Computer Science 2025

技术优势

不会过拟合

用随机初始化的稀疏连接层替代传统稠密层，减少模型参数冗余，降低过拟合风险。

特征提取不丢

浅层编码器结合动态层和关系感知层，深层解码器采用残差连接，网络加深时仍能保持特征提取能力。

头部预测更准

在FB15k-237、WN18RR和YAGO3-10三个数据集上Hits@1指标都达到当前最优，说明模型对最可能答案的排序能力更强。

应用场景

• 知识图谱补全：自动补全知识图谱中缺失的实体或关系，减少人工构建成本。
• 知识表示学习：学习实体和关系的低维嵌入表示，便于下游任务使用。