张量投影降维层

泛化优于池化

这种基于张量模式线性投影的降维层，能适应图像、时序和文本等多种模态，为深层网络中的特征压缩提供了比传统池化更灵活的替代方案。

Toshinari, Morimoto · Huang, Su-Yun

Neurocomputing 2025

技术优势

提升泛化能力

在多种任务和基准模型上，替换池化层后性能优于原有模型，说明该层能学到更适合任务的特征压缩方式。

跨模态通用

已在图像、多通道时序信号和语言数据上验证，适用于任何中间表示为张量的网络。

可替换池化层

能同时减少空间维度和通道维度，可直接替换标准模型中的特定层。

应用场景

• 医学图像分析：可在医学图像分割和分类网络中替代池化，提高模型泛化性能。
• 多模态特征融合：对图像、时序、文本等模态的张量表示进行统一降维，便于融合。
• 深度网络压缩：通过可学习投影减少空间和通道维度，压缩特征张量规模。