黑盒成员推理攻击算法

无需模型内部信息

无需目标模型内部信息或训练数据先验，仅通过黑盒访问即可判断数据记录是否被用于训练。

Liu, Gaoyang · Xu, Tianlong · 张蕊 · Zixiong, Wang · 王琛 · Liu, Ling

IEEE Transactions on Information Forensics and Security 2023

技术优势

无需白盒访问

仅通过黑盒查询即可完成攻击，无需目标模型的内部参数或梯度。

无监督，无需数据先验

攻击完全无监督，不需要目标模型的任何内部信息或训练数据的先验知识。

应用场景

• 隐私保护评估：隐私保护评估：用于检测模型是否泄露训练数据成员信息。
• 模型审计：模型审计：帮助审计人员发现模型对训练数据的记忆风险。
• 数据安全：数据安全：用于评估数据在模型发布后的泄露风险。