聚合双边注意力机制

轻量高效,精准定位

该注意力机制通过双重评分聚合双边关系,以极低计算代价捕捉查询-支持间的可靠依赖,显著提升少样本定位精度。

Hsieh, Heyen · Chen, Dingjie · Cheng-Wei, Chang · Liu, Tyng-Luh

2023

技术优势

消除稀疏响应问题

通过嵌入范数探索语义相关线索,并利用上下文感知关联查询与支持区域,ABA能够捕捉更丰富的相关性,从而克服传统非局部块中响应稀疏且模糊的问题。

降低计算成本

ABA作为一种轻量级的查询-支持注意力机制,避免了多头设计带来的高计算开销,从而以极低的计算代价实现高性能。

提升定位召回率

通过聚合双边注意力,ABA能够更可靠地捕捉查询与支持之间的依赖关系,从而在少样本定位任务中实现更高的召回率。

应用场景