蒸馏更稳更省
通过过滤类别分布偏移的合成图像并对样本重加权，SRIF让无数据蒸馏出的学生网络更接近真实数据训练的性能，同时减少训练开销。
Zherui, Zhang · Xu, Rongtao · Wang, Changwei · 徐士彪 · Jie, Zhou · Wenhao, Xu · Gao, Longxiang · 徐文波 · 国联
IEEE Transactions on Multimedia 2025
完全基于教师模型生成合成数据，避免访问隐私或受限的真实数据集。
过滤类别分布偏移的合成图像，减少数据偏差，使学生学到的关系更可靠。
通过过滤和重加权提升数据质量，相同性能下所需训练更少，降低计算开销。
两个模块可灵活嵌入现有无数据蒸馏框架，无需改动整体流程即可受益。