arXiv 隐私论文· Shunyuan Bai·· 2 天前AI 评分39
ProAda：面向视觉语言模型的提示词自适应对抗图像
Answer It or Not? Towards Prompt-Adapted Adversarial Images on Vision Language Models
AI 导读
针对现有视觉语言模型对抗图像“提示词无关”、会一并拒绝合法提问的问题，研究者提出 ProAda 对抗图像，通过迭代更新文本提示词并借助简单分类器判断其危害性是否残留，从而更精准地定向优化。在视觉隐私相关数据集上，ProAda 可拒绝超过 90% 的有害提示词，同时放行超过 90% 的合法提示词，整体表现优于现有提示词无关的对抗方法，并具备有竞争力的跨模型迁移性和更强的抗反制鲁棒性。
来源：arXiv 隐私论文 · arxiv.org