聚焦Taylor注意力去云网络

高分辨率去云

通过像素级长程依赖建模,在降低计算复杂度的同时恢复结构一致的无云图像。

75483661 · Ye, Deng · 周三平 · Yuhan, Liu · Huang, Wenli · 王进军

IEEE Transactions on Geoscience and Remote Sensing 2024

技术优势

复杂度降至线性

泰勒展开将注意力计算从 O(N²) 降到 O(N),使网络能直接处理高分辨率图像。

保持像素级长程关系

注意力不限制空间范围,直接在全部像素间建模,避免结构不一致。

注意力更聚焦

新的 query/key 归一化函数使注意力权重更具区分度,增强对重要特征的关注。

应用场景