脑机融合学习框架

提升分布外泛化

利用跨模态融合与视觉神经编码模型,将人脑先验认知知识引入视觉模型,省去fMRI数据采集,显著提升分布外泛化性能。

Shuangchen, Zhao · Du, Changde · Jingze, Li · Hui, Li · Huiguang, He

Information Fusion 2025

技术优势

无需采集 fMRI

采用预训练视觉神经编码模型从视觉特征预测 fMRI,省去数据采集和预处理,大幅降低传统脑机融合方法的工作量。

融合更受约束

训练中引入皮尔逊相关系数最大化正则化,增强视觉与脑特征的对齐,提升融合能力。

性能超越 DINOv2

在 ImageNet-1k 验证集和精心挑选的 OOD 数据集上均超越 DINOv2 及基线模型,展现更强泛化。

应用场景