增量训练省时省算力
通过分阶段扩展深层网络与分类器，在新数据上仅训练扩展部分，避免全量重训，实现接近联合训练的准确率。
Weng, Zhi · Yongzheng, Lu · 郑志强 · Mengbo, Wang · 张永 · 巩彩丽
Expert Systems with Applications 2025
只使用部分旧数据和新数据训练扩展的阶段网络和分类器，保留旧深层网络保存旧知识，避免每次新批次都从头训练。
在自制数据集上，增量10、20、50时与联合训练的精度差分别仅为1.31%、0.98%、0.55%，在三个公开数据集上也接近联合训练性能。
通过知识蒸馏避免网络扩展带来的参数过多，从而降低了对硬件的要求。