对称加速随机ADMM剪枝框架

参数压缩20.9倍

一个基于对称加速随机ADMM的系统化权重剪枝框架，将DNN权重剪枝转化为损失函数与L1正则项的优化问题，在保持精度的同时大幅压缩模型参数。

Ming, Yuan · 白建超 · Feng, Jiang · 都琳

Neurocomputing 2024

参数信息

AlexNet参数减少倍数
20.9 ×
剪枝时间节省
0.5 ×

技术优势

收敛更快

SAS-ADMM将原问题分解为低维易解子问题，加速收敛。

压缩率更高

在AlexNet上达到20.9倍参数减少，且只花之前一半时间。

精度保持

剪枝后模型收敛，维持原有精度。

应用场景