跳到正文
arXiv 隐私论文· Yuchen Chen·· 21 小时前AI 评分58

RAGLeak:针对检索增强生成系统的供应链隐私后门

RAGLeak: Supply-Chain Privacy Backdoors in Retrieval-Augmented Generation

AI 导读

研究提出 RAGLeak,一种将信息泄露与直接文本暴露解耦的供应链隐私后门攻击:触发后生成器对检索到的私密文档做可逆混淆,再由辅助大语言模型高保真还原。在三个模型家族和三个应用领域上,RAGLeak 攻击成功率最高达 100%,对正常效用影响有限,在代表性检测防御下攻击成功率最多下降 10 个百分点。该后门在干净微调后以及不同模型规模和版本间仍然有效,代码已公开。

来源:arXiv 隐私论文 · arxiv.org