迭代语言模型

双向建模抗噪

将视觉与语言模型解耦,通过双向完形填空网络和迭代纠正实现显式语言建模,显著提升低质量图像的文本识别性能。

Fang, Shancheng · 毛震东 · 谢洪涛 · 王裕鑫 · 颜成钢 · 张勇东

IEEE Transactions on Pattern Analysis and Machine Intelligence 2023

技术优势

显式语言建模

将识别器解耦为视觉模型和语言模型,并阻断两者间的梯度流,强制进行显式语言建模,提升了语言规则的有效利用。

双向特征建模

提出双向完形填空网络(BCN)作为语言模型,利用双向特征表示,比单向模型更全面地捕捉上下文信息。

抗噪迭代纠错

对语言模型执行迭代纠错,有效缓解噪声输入的影响,即使初始预测有误也能逐步修正。

长文本识别更强

在 U-Net 中嵌入 Transformer 单元聚合水平特征,并设计位置与内容注意力模块,使长文本识别更精确。

应用场景