距离保持特征约简算法

大幅降维不减精度

把特征约简从统计后处理变成深度网络内的端到端优化,且从理论上保证任意两样本的欧氏距离在处理前后严格相等,从而在把特征从 1024~14336 维大幅压缩的同时不丢失判别信息。

Wang, Guan’An · 黄晓雯 · 杨阳 · Tiwari, Prayag · 长江

Neural Networks 2024

参数信息

Compresses feature dimension
14336 while

技术优势

降维不损失判别力

通过矩阵分解推导出保持欧氏距离的条件,从理论上保证任意两样本特征在处理前后距离相等,因此降维不会破坏样本间的相对关系。

端到端可训练

将矩阵分解过程集成到深度神经网络中,支持批量训练和端到端优化,同时保持理论保证,克服了训练后降维方法无法在大数据上端到端优化的局限。

直接特征级蒸馏

利用距离保持性质,无需将不匹配的特征投影到类别、空间或相似度空间,直接在特征空间进行蒸馏,更灵活高效且减少信息损失。

应用场景