多教师蒸馏学生模型

38倍参数压缩

一种轻量级医学图像分类模型,通过优化残差信息和多教师蒸馏在保证分类精度的同时显著降低计算需求,适合资源受限的即时成像设备。

Song, Yucheng · Anqi, Song · 75811038 · 廖志芳

Expert Systems with Applications 2025

参数信息

参数量
38
计算量
11
推理时间
18.94 ms

技术优势

参数减少38倍

通过基于Shift MLP的轻量级残差分支设计,模型能够以更少的参数捕捉多尺度空间特征信息,大幅降低存储和计算开销。

计算量降低11倍

轻量级结构设计使得模型的计算复杂度大幅下降,适合在计算资源有限的设备上部署。

CPU推理仅18.94毫秒

模型推理速度快,无需GPU即可实现实时处理,满足即时诊断场景的时效要求。

噪声鲁棒性增强

利用无标签和含噪声数据进行自适应学习的辅助教师蒸馏策略,使模型对成像噪声具有更强的鲁棒性。

应用场景