1.42×训练提速
利用宽深稀疏性逐步扩展子网络，在通用GPU上大幅减少视觉模型训练耗时且性能损失可忽略。
Ding, Ning · Tang, Yehui · 韩恺 · 许超 · Wang, Yunhe
2023
相比原模型，在ImageNet-1k上ResNet-101的训练耗时缩短至约70%，且性能损失可忽略。
可便捷集成到主流深度学习框架中，无需专用硬件即可节省训练时间和计算资源。
针对卷积网络和视觉Transformer的架构差异，分别设计了不同的扩展策略。