arXiv 隐私论文· Damien Lo·· 2 天前AI 评分58
COMPASS：通过自适应噪声校准对视觉大语言模型发起成员推断攻击
COMPASS: Membership Inference Attack Against Vision Large Language Models via Adaptive Noise Calibration
AI 导读
研究提出 COMPASS，一种自适应灰盒成员推断攻击，通过已知非成员参考集校准扰动幅度和成员分数方向。作者系统刻画了视觉大语言模型在受控高斯扰动下的成员行为，发现最优扰动幅度和成员信号方向因模型数据集组合而异，许多设置下低噪声区间比大扰动分离更强，成员的分歧低于非成员，反转了传统分数方向。
来源：arXiv 隐私论文 · arxiv.org