轻量级医学图像分割网络

推理仅 29.6 ms

通过知识蒸馏获得,无需额外推理开销即可在资源受限设备上运行。

杨烜

Computers in Biology and Medicine 2024

参数信息

推理时间
29.6 ms

技术优势

无额外部署开销

蒸馏策略仅在训练阶段使用,分割部署时学生模型不增加任何计算负担。

学生能超越教师

主动探索与被动迁移策略鼓励学生模型学习教师未发现的知识或特征,从而在分割任务上超越教师模型。

提升类别区分度

学生通过模仿教师的自注意力类间特征变化,提高对不同类别的区分能力。

应用场景