学生模型显著提升
让轻量图模型继承并扩展复杂教师模型的学习过程，而非模仿其输出。
Kang, Liu · Yang, Shunzhi · Wang, Changdong · Chen, Yunwen · Zhenhua, Huang
Information Fusion 2026
学生模型可以继承并扩展教师的学习过程，而不只是复制其输出。
通过梯度映射对教师的学习过程建模，而非仅仅传递最终输出。
分层捕获教师响应以改变学生梯度，适用于不同网络架构之间的蒸馏。