ID正则化算法

提升模型公平性

通过促进简洁且内在维度均衡的类别感知流形学习，在提升模型公平性的同时提升性能。

Ma, Yanbiao · 焦李成 · 刘芳 · 李玲玲 · 马文平 · 杨淑媛 · 刘旭 · 陈璞花

IEEE Transactions on Pattern Analysis and Machine Intelligence 2024

技术优势

偏差显著降低

IDR通过促进类别感知流形的内在维度平衡，直接减轻模型偏差。

无需改结构

IDR作为正则化项，可集成到现有训练流程，不改变模型结构。

性能同步提升

在多个图像识别基准测试中，IDR在降低偏差的同时提升了模型性能。

应用场景

• 公平模型训练：在训练中直接加入IDR正则化，提升模型公平性。
• 图像识别：用于图像识别任务，降低类别偏差。
• 可信人工智能：通过减少偏见，增强AI系统的可信度。
• 模型去偏：作为去偏方法，修正模型对特定类别的偏置。