张量回归DenseNet模型

低内存高精度

将张量回归层嵌入DenseNet，压缩全连接层参数的同时保持分类精度，适用于内存受限场景。

Chunyang, Zhu · 王磊 · 赵为华 · 练恒

Applied Intelligence 2024

参数信息

全连接层内存占比

90 %

技术优势

内存大幅缩减

用张量回归层替换全连接层，高压缩率且对性能影响最小，全连接层90%的内存占用问题得到缓解。

精度几乎无损

在四个图像分类数据集上，结合张量回归层的DenseNet模型仍能保持较高的分类精度，不低于现有张量网络模型。

保留多线性结构

张量回归网络避免了展平操作，减少图像数据多线性结构的丢失，从而保持模型性能。

应用场景

• 内存受限的图像分类：用更少内存训练和部署分类模型，适应内存有限的场景。
• 边缘设备上的轻量级模型：压缩全连接层参数，让模型更适合部署到边缘设备上。
• 资源受限下的视觉识别：在计算和内存受限条件下维持较高的图像识别精度。
• 嵌入式系统中的图像分析：减少模型体积和内存占用，便于嵌入到实时图像分析系统中。