率失真优化训练后量化

无需重训压缩模型

针对学习图像压缩任务设计的训练后量化方法,通过率失真优化保持压缩性能,可即插即用。

Junqi, Shi · 卢明 · 马展

IEEE Transactions on Circuits and Systems for Video Technology 2023

参数信息

模型参数量化精度
INT8 -bit

技术优势

不用重训

直接对预训练的现成模型进行量化,只需调节量化参数,不更新模型权重,节省计算和时间成本。

性能不掉线

通过最小化率失真损失而非参数均方误差,量化后模型的编码性能与浮点模型最接近。

轻量即插即用

方法轻量,不需要重新训练模型参数,只需少量校准图像,易于集成到现有流程。

应用场景