稀疏判别广义学习系统

组稀疏·高判别

通过ε拖拽和光滑组L1/2正则化，在压缩网络结构的同时增强类别区分能力。

Yu, Dengxiu · Kang, Qian · Jin, Junwei · 王震 · 李学龙

Pattern Recognition 2023

技术优势

权重更稀疏

组L1/2正则化在组水平上压缩权重，自动识别并移除冗余特征组，网络结构更紧凑。

求解更稳定

用光滑函数近似非光滑的L1/2罚项，使目标函数连续可微，ADMM求解过程理论性质更好。

类间距离拉大

ε-拖拽技术松弛回归目标，将不同类别的标签向两侧拉扯，增大了类别间隔。

应用场景

• 模式分类：用紧凑判别特征提升分类精度，适合需要模型小型化的场景。
• 回归分析：稀疏权重减少过拟合，提高回归预测的泛化能力。
• 高维小样本识别：组稀疏自动选择关键特征，缓解高维小样本下的维度灾难。
• 传感器数据处理：可处理传感器阵列的高维冗余信号并提取判别特征。