免训练抑制幻觉
一种免训练的视觉信息干预方法,利用多尺度金字塔结构和自适应聚合模块,动态融合不同尺度的视觉语义信息,并借助中间层激活辅助解码,有效缓解由多尺度表征偏差引起的幻觉。
Zhao, Dongliang · 孙波 · 何珺 · 张迎辉
Neurocomputing 2026
构建多尺度金字塔结构捕捉不同局部尺度的视觉信息,并利用自适应聚合模块根据语义相关性动态调整各尺度的导向权重,从而更准确地保留和融合多尺度视觉语义信息。
利用中间层的激活来辅助语义解码,缓解了语义相关 token 在中间层出现峰值激活但未在最终输出层显现的问题。
该方法是一种免训练的即插即用模块,可以直接集成到现有模型中,无需额外训练成本。