可解释并行超参数优化算法

提速最高2.2倍

首个引入可解释性分析的HPO方法，在保证高显著性超参数判断的同时显著加速搜索。

Mu, Tianyu · 王宏志 · Tang, Haoyun · Shao, Xinyue

2024

参数信息

加速比

2.2 ×

技术优势

提速可达 2.2 倍

相比 SOTA 异步与顺序 HPO 基线，ShrinkHPO 使超参数搜索时间成本最多降低至原来的 1/2.2。

保证准确率不降

在分类、回归、时间序列分类等任务上，ShrinkHPO 的准确率（回归任务为 RMSE）达到最高水平。

首次引入可解释性

ShrinkHPO 是第一个引入可解释性分析与验证的 HPO 方法，用以判断超参数的“高显著性”，从而指导搜索。

权重估计缩小搜索空间

通过超参数权重估计（Shrink-search）识别高显著性超参数，缩小配置搜索范围，提升效率。

应用场景

• 智能数据库系统：嵌入数据库内核，加速查询优化和自动调参，降低运维成本。
• 机器学习模型调参：替代人工网格搜索，自动找到高准确率超参数配置。
• 自动化机器学习：作为 AutoML 系统的 HPO 组件，提供高效且可解释的搜索。