博弈论类激活图

节点协作可视化

与现有方法独立计算节点贡献不同，GT-CAM利用Shapley值揭示骨架节点间的协作关系，为GCN提供更全面的决策解释。

李岩山 · Ting, Shi · Zhiyuan, Chen · Li, Zhang · 谢维信

IEEE Transactions on Pattern Analysis and Machine Intelligence 2024

技术优势

揭示节点协作

通过Shapley值计算节点贡献，能够揭示节点或局部子图之间的协作动态，从而更全面地解释模型决策。

降低计算负担

提出节点联盟Shapley值的计算方法，减少Shapley值的计算负担，使得方法更实用。

评估划分合理性

基于二分博弈交互和合作博弈论提出联盟划分合理性评估方法，并利用蒙特卡洛方法高效计算联盟合理性系数。

应用场景

• 行为识别解释：为行为识别模型提供节点级解释，定位关键关节和协作模式。
• 人形机器人解释：帮助人形机器人理解动作决策中哪些关节协同作用。
• 决策透明度：通过可视化关键节点和协作关系，增强GCN决策过程的透明度。
• 机器人可解释性：为机器人动作识别提供可解释的节点贡献分析，便于调试和改进。