图像噪声过滤,精度领先
通过将图像转换为文本空间的隐式令牌嵌入,并经面向方面的注意力机制过滤噪声,该模型能更准确地对每个方面进行情感判断。
Wang, Qianlong · Hongling, Xu · Wen, Zhiyuan · 梁斌 · Yang, Min · 秦兵 · 徐睿峰
IEEE Transactions on Affective Computing 2023
面向方面的注意力只检索与当前方面相关的视觉提示,无关图像内容不会进入情感推理。
将图像转换为预训练语言模型输入空间中的隐式 token 序列,从根源上避免跨模态交互时的表示鸿沟。
即使在图像与文本不相关的样本上也能稳定过滤噪声,且整体计算开销可控。