信道相似度剪枝算法

通用预训练模型即插即用

不同于依赖稀疏正则化或数据驱动优化的现有方法，该算法以概率方式度量信道相似性，通过层次聚类自动发现冗余集群，可直接应用于任意预训练网络，在给定预算下自动搜索高效结构。

Zhao, Chenglong · Yunxiang, Zhang · 倪冰冰

IEEE Transactions on Circuits and Systems for Video Technology 2023

参数信息

FLOPs减少比例

30 %

技术优势

自动发现高效结构

无需预定义目标结构，在给定预算下自动搜索资源高效的结构。

剪枝后精度不降反升

在ImageNet上，剪枝后减少30% FLOPs的ResNet-50超越了原始模型。

应用场景

• CNN模型加速：对预训练CNN直接剪枝，减少计算量而不损失精度。
• 边缘端模型轻量化：自动搜索资源高效结构，在给定预算下适配边缘设备。
• 嵌入式视觉：减少FLOPs，提升嵌入式视觉模型的实时性能。
• 机器人视觉模型压缩：压缩机器人视觉模型，降低延迟以加快决策。