研究提出针对持续更新模型的时间成员推断攻击
热点事件观察中
研究提出针对持续更新模型的时间成员推断攻击
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
研究提出时间成员推断攻击（TMIA），可在时间戳和区间两种粒度上推断个体样本是否以及何时被用于持续更新模型的训练。 该研究形式化定义了持续更新模型中的时间成员关系，并设计黑盒攻击：利用双向 LSTM 从模型连续更新中的输出推断时间成员关系。作者称，在三个语言模型和三个图像分类模型上的实验中，TMIA 的效果显著优于现有基线。 论文还评估了三种潜在防御，指出隐私保护与模型效用之间存在取舍。
AI 根据报道生成 · 25 分钟前更新
最新进展11月4日 08:36
研究提出 TMIA 攻击，可推断样本何时被用于持续更新模型的训练报道时间线
沿着报道，了解事件的不同侧面。
11月4日
- arXiv 隐私论文研究提出 TMIA 攻击，可推断样本何时被用于持续更新模型的训练
论文系统研究持续更新深度学习模型中的时间隐私风险，形式化定义了时间成员关系，并提出时间成员推断攻击，可在时间戳和区间两种粒度上推断个体样本是否以及何时参与模型训练。作者提出黑盒攻击 TMIA，利用双向 LSTM 从模型连续更新中的输出推断时间成员关系，在三个语言模型和三个图像分类模型上的实验显示其效果显著优于现有基线。论文还评估了三种潜在防御，揭示隐私保护与模型效用之间的取舍。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。