毫秒级实时预测
通过集成多样假设与知识蒸馏,以小模型实现高精度、快速度的人体意图和活动识别,适用于边缘设备。
Zhang, Kuangen · Chen, Jiahong · Wang, Jing · 陈欣星 · 冷雨泉 · de Silva, Clarence W. · 付成龙
Information Fusion 2023
学生网络仅凭老师提供的软标签,就能继承多个特征生成器和分类器学到的知识,在未标注目标域上保持高准确率。
该方法能稳定学习曲线,减少训练过程中的震荡,使模型收敛更可靠。
通过最大化多个特征生成器之间的差异,迫使其学习多样且完整的特征,而不是只抓取部分模式。