参数减六成
该模型提出了一种新的轻量级模型学习框架，通过大模型引导的渐进式掩码图像建模和双分支卷积增强适配器，在遥感边缘AI的多任务中实现了接近大模型的性能，同时显著减少了参数数量。
Ziqing, Niu · Cheng, Peirui · Zhao, Liangjin · Weihang, Zhang · Guo, Zhi · 王智睿
IEEE Transactions on Geoscience and Remote Sensing 2026
得益于大模型驱动的渐进式掩码图像建模和双分支卷积增强适配器，模型在保持性能的同时将参数量减少到大型模型的40%以下。
在同规模模型中取得最先进结果，在三个下游任务和消融实验中均表现优异。
通过大模型引导渐进式掩码建模，获取丰富的任务不可知知识，增强了模型泛化能力，弥补了主流知识蒸馏的不足。
双分支卷积增强适配器结合参数高效微调，增强了任务特定知识的保留，提升了微调效果。