多模态对齐网络

导航问答精度升4.1%

利用物体标签将视觉与语言模态对齐到统一语义空间,并通过专用Transformer捕捉场景长程依赖,为具身问答提供更准确的导航与回答。

Luo, Haonan · Ziyu, Guo · Wu, Zhenyu · Fei, Teng · Tianrui, Li

Information Fusion 2024

参数信息

精度提升
4.1 %

技术优势

对齐更准

利用物体标签作为参考点,将视觉与语言模态对齐到统一的语义空间,减小跨模态鸿沟。

捕捉更远

专用Transformer模块捕捉视觉场景中广泛像素间的长程依赖,从而生成更符合上下文的动作。

整体更准

所有模块性能均获提升,具身问答任务整体准确率提高4.1%。

应用场景