COMPASS：针对视觉大模型的成员推断攻击

研究者 Damien Lo 等人提出 COMPASS，一种自适应灰盒成员推断攻击，利用与目标分布大致匹配的已知非成员参考集，同时校准扰动幅度和成员分数方向。作者称，在 LLaVA v1.5-7B、MiniGPT-4 和 HuluMed-32B 上，覆盖预训练、指令微调和医学图像数据集，COMPASS 均优于基线。 该研究还称，视觉大语言模型的最优扰动幅度和成员信号方向因模型与数据集组合而异，许多设置下低噪声区间的分离度强于大扰动，且成员的模型分歧低于非成员，与传统分数方向相反。 作者报告，在通用领域数据上 COMPASS 的 AUC 最高达 0.88；在分布匹配的医学评测中为 0.64 AUC，而最强基线仅处于随机水平。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。