混淆词表示框架

隐私推理不增成本

对簇状表示进行随机扰动,使单词表示与周围功能相似的表示无法区分,在保护隐私的同时保持原有功能。

周鑫 · Yi, Lu · Ma, Ruotian · 桂韬 · Yuran, Wang · Yong, Ding · Yibo, Zhang · 张琪 · 黄萱菁

2023

技术优势

防重建攻击

每个词表示被扰动到与功能相近的词不可区分,攻击者无法将其还原为原始单词。

不降性能

扰动保留了原始词的功能,实验表明在标记级和句子级分类任务上均优于对比方法。

零额外开销

扰动过程计算简单,不会增加推理成本。

应用场景