知识增强多模态诊断模型

诊断生成更精准

通过软提示学习将多模态电子病历数据融合到统一特征空间,并利用外部领域知识和大语言模型生成可解释的疾病诊断。

Shuai, Niu · Ma, Jing · 白亮 · Wang, Zhihua · Guo, Li · Yang, Xian

Information Fusion 2024

技术优势

模态全面对齐

利用软提示学习将病历文本、临床事件和检验结果映射到共同特征空间,避免模态间信息割裂,使模型能够利用互补信息。

知识增强融合

引入不同粒度的外部医学领域知识,强化多模态信息的提取与融合,从而提高诊断生成的准确性。

诊断可解释

在真实数据集上生成的诊断结果附带解释性证据,帮助医生理解模型判断依据,降低黑箱风险。

应用场景