通道双相稀疏剪枝框架

精度无损减一半通道

利用训练早期神经元活动先于权重稳定的规律,以双相显著性指标在稀疏训练中直接获得结构化稀疏,省去稠密到稀疏的额外训练成本。

Jun, Li · Li, Qiang · Yiying, Jiang · Jionghao, Zhang · Hailong, Zou · Mengdie, Tao · Liang, Wang · Hang, Ran · Gang, Li · Zhang, Zhe · Bingchen, Zhang · Zhan, Yi · 乔树山

Neurocomputing 2026

参数信息

SOPs 减少
42.1 %
通道稀疏度
50 %

技术优势

无需两阶段训练

在稀疏训练中直接施加结构化稀疏,省去稠密到稀疏再重训练的额外成本。

剪枝不损精度

VGG-16 剪掉一半通道,CIFAR-10 精度保持不变。

硬件友好结构

生成通道级结构化稀疏,能直接在类脑芯片等硬件上加速。

应用场景