参数降九成精度不减
用极少的参数就能实现媲美大型模型的RGB-D室内场景分割,适合部署在资源受限的移动设备上。
周武杰 · Bitao, Jian · Fang, Meixin · Xiena, Dong · Yuanyuan, Liu · 姜求平
IEEE Transactions on Circuits and Systems for Video Technology 2024
学生网络参数量为29.3M,显著低于教师网络,却能保持相近的精度,便于部署在边缘设备上。
与教师网络相比,学生网络在参数量大幅降低的同时,分割精度基本持平,满足了移动端应用需求。
采用多级知识蒸馏,学生网络在NYUDv2上像素精度提升1.7%,类别精度提升2.3%。