提升模型可解释性
面向开放域问答的视觉分析工具，通过摘要、实例和候选三级可视化，帮助专家理解模型决策原因并发现改进方向。
Zekai, Shao · Shuran, Sun · Zhao, Yuheng · 王思源 · 魏忠钰 · 桂韬 · Turkay, Cagatay · 陈思明
IEEE Transactions on Visualization and Computer Graphics 2023
系统提供数据流摘要，使用户能够在摘要层面快速了解数据集和模块的整体响应，而不是陷入单个实例。
从摘要视图可下钻至单个实例，并通过带上下文的排名可视化探索实例，定位模型出错的具体问题。
通过比较树可视化对单个模块内部的决策流程进行细粒度探索，揭示各候选答案的决策差异。
通过案例研究和专家评估证明了系统在提升可解释性和提供模型增强见解方面的有效性。