动态权重变分推理框架

收敛更快误差更小

首个同时融合加速位置更新与动态权重调整的粒子变分推理框架,在信息-Fisher-Rao流形上模拟半哈密顿梯度流,引入额外局部泛函耗散,兼容多种信息度量下的不同散度泛函与平滑策略。

Fangyikang, Wang · Huminhao, Zhu · 张超 · Zhao, Hanbin · 钱徽

2024

技术优势

首次同时加速与调权

该框架是首个同时具备加速位置更新与动态权重调整的粒子变分推理方法。

引入额外泛函耗散

在新型信息-Fisher-Rao 空间上的半哈密顿梯度流带来了局部泛函耗散的额外降低。

兼容多种散度与平滑

在三种信息度量下兼容不同的散度函数及相关平滑方法。

应用场景