多尺度时空Transformer

参数量减三分之二

一个同时捕捉局部细节与多尺度时空关联的预测模型,在多个气象预报任务上均保持领先精度。

Li, Tianbao · 苏育挺 · 宋丹 · Wenhui, Li · 魏志强 · 刘安安

IEEE Transactions on Circuits and Systems for Video Technology 2024

参数信息

性能提升
3.7 %
参数量(相对)
1/3

技术优势

参数量骤减

模型以Earthformer三分之一的参数量达成更高精度,部署时占用存储和算力资源更少。

多尺度表征

通过区域一致编码与多尺度特征聚合,更细致地刻画气象数据在不同尺度下的局部模式。

时空关联学习

多尺度空间Transformer与时间Transformer协同,分别捕获局部块与多尺度区域间的空间关联以及时间动态演变特性。

多任务验证

在三个主流时空预测任务上均取得领先效果,展示出较强的通用性。

应用场景