无需手工调参,自动寻找最优超参数组合,显著提升模型性能与训练效率。
Jia Mian, Tan · Haoran, Liao · Wei, Liu · 范长俊 · 黄金才 · 刘忠 · 严骏驰
Mathematical Biosciences and Engineering 2024
将加速策略细分为多保真、基于 bandit 和早停三类,可针对不同预算选择合适方法,降低调参时间成本。
系统梳理动态算法配置(DAC)方法,包括基于梯度、种群和强化学习的算法,为在线超参调优提供参考。
可通过标量化、元启发式和模型算法处理多目标超参优化,满足精度与效率等权衡需求。
以表格形式列出流行的 HPO 框架和工具,方便从业者直接选用,降低集成门槛。