arXiv 隐私论文· Jie Fu·· 1 天前AI 评分58
研究提出 TMIA 攻击，可推断样本何时被用于持续更新模型的训练
Timing is Everything: Inferring Temporal Membership in Continually Updated Models
AI 导读
论文系统研究持续更新深度学习模型中的时间隐私风险，形式化定义了时间成员关系，并提出时间成员推断攻击，可在时间戳和区间两种粒度上推断个体样本是否以及何时参与模型训练。作者提出黑盒攻击 TMIA，利用双向 LSTM 从模型连续更新中的输出推断时间成员关系，在三个语言模型和三个图像分类模型上的实验显示其效果显著优于现有基线。论文还评估了三种潜在防御，揭示隐私保护与模型效用之间的取舍。
来源：arXiv 隐私论文 · arxiv.org