优化派生表示学习网络

设计可解释

该网络从优化视角定制，模块化拼接组件并以可学习模块嵌入前馈层，兼具解释性与可扩展性，在多视图学习中通过视图权重区分贡献。

Zihan, Fang · Du, Shide · Zhiling, Cai · Shiyang, Lan · Chunming, Wu · 檀彦超 · 王石平

IEEE Transactions on Multimedia 2024

技术优势

设计过程透明

网络组件可根据优化目标模块化拼接，而不是黑箱堆叠，便于按需定制。

支持端到端训练

将优化迭代解嵌入为网络层，与深度网络无缝集成，从而能用标准梯度方法整体训练。

能区分视图贡献

引入视图权重自动学习各视图的重要性，提升多视图表示融合的判别力。

应用场景

• 多视图学习：用可学习的视图权重自动区分不同视图的贡献，替代手工加权。
• 表示学习加速：将迭代优化解展开为前馈层，避免反复求解，加快表示计算。
• 可解释神经网络设计：以凸优化目标为设计准则，模块拼接透明，便于解释网络结构。
• 多模态数据融合：多视图权重可扩展到多模态输入，自动侧重信息量大的模态。
• 轻量级节点模型：由优化推导的紧凑结构减少冗余参数，适合资源受限节点。