研究者提出 ProAda 提示自适应对抗图像

研究者 Shunyuan Bai 等人提出 ProAda 提示自适应对抗图像，用于视觉语言模型。针对现有对抗图像与提示词无关、会连带拒绝合法提问的问题，ProAda 通过迭代更新文本提示词、并用简单分类器判断危害性是否残留，来定向优化图像。 研究者在视觉隐私相关数据集上报告，ProAda 可拒绝超过 90% 的有害提示词，同时放行超过 90% 的合法提示词，整体表现优于现有提示词无关的对抗方法，并具备有竞争力的跨模型迁移性和更强的抗反制鲁棒性。这些结果来自论文自述的实验。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。