惯性Bregman随机ADMM

大规模非凸优化加速

融合惯性与方差缩减估计器，显著提升大规模非凸非光滑问题的求解效率。

Longhui, Liu · 韩丛英 · 郭田德 · Shichen, Liao

Expert Systems with Applications 2025

技术优势

收敛有保证

在目标函数满足KL性质的半代数假设下，证明了全局收敛性。

大规模也不怕

采用方差缩减梯度估计器结合惯性技术，缓解了大规模优化中的性能下降。

实践中更高效

在graph-guided fused lasso数值实验中表现出比现有ADMM变体更好的性能。

应用场景

• 大规模机器学习：加速大规模非凸机器学习模型的分布式训练。
• 分布式优化：为分布式环境下的非光滑优化提供高效、收敛的算法。
• 信号处理：用于图引导融合套索等信号恢复问题，替代传统ADMM。
• 能源系统调度：处理能源调度中带约束的非凸优化，减少求解时间。
• 工程优化：求解大规模非光滑工程设计优化，提高收敛稳定性。