正则化掩模自动编码器

提升半监督分类精度

通过引入诱导Transformer模块和掩模卷积神经网络，在半监督高光谱图像分类中实现更高的分类精度。

王立国 · Heng, Wang · 王鹏 · Wang, Lifeng

IEEE Transactions on Geoscience and Remote Sensing 2024

技术优势

分类精度更高

在四个公开数据集上优于现有最优方法，证明RMAE学到的表示更具判别力。

计算开销可忽略

诱导Transformer块轻量，对基础MAE框架的计算负担几乎为零，可方便地集成到现有流程中。

自监督任务更难更有效

通过少数可见块学习更大感受野的嵌入，并利用诱导重建损失，创造出更具挑战性的掩模图像建模任务，从而提升表示质量。

应用场景

• 遥感图像分类：提升有限标注样本下的地物分类精度，直接用于遥感影像解译。
• 高光谱图像分析：利用预训练表示缓解高光谱数据标注困难，提高分析效率。
• 自监督学习：提供一种更难的掩模图像建模任务，作为高光谱图像自监督预训练的新范式。