因果视觉推理网络

85%剪枝不损泛化

通过恢复被剪枝的因果相关token，弥补传统方法忽略的上下文依赖，从而保持视觉语言模型的因果泛化能力。

Taoyu, Qian · 王琦 · 高尚 · 于化龙

Knowledge-Based Systems 2026

参数信息

推断准确率

76.7 %

剪枝率

85 %

模型参数量

3.22 M

技术优势

找回因果 token

把相关性剪枝漏掉的因果相关视觉 token 恢复回来，避免因上下文依赖丢失导致的因果泛化下降。

轻量可插拔

CaVIN 只有 3.22M 参数，可直接嵌入现有 VLM 推理流程，无需重新训练主模型。

应用场景

• 高效推理：剪枝 85% 后仍保持因果泛化，推理更快。
• 多模态模型加速：恢复被剪掉的因果 token，加速不损性能。
• 边缘部署：3.22M 轻量网络，适合端侧集成。
• 实时视觉问答：激进剪枝保因果，实时 VQA 不丢关键 token。