RAGLeak：RAG供应链隐私后门攻击

研究者 Yuchen Chen 等人提出一种名为 RAGLeak 的供应链隐私后门攻击：模型被植入后门后，一旦触发，生成器就会对检索到的私密文档做可逆混淆，再由辅助大语言模型高保真还原，从而在不直接暴露原文的情况下泄露信息。 据论文报告，在三个模型家族和三个应用领域上，RAGLeak 的攻击成功率最高达 100%，对正常效用影响有限；在代表性检测防御下，攻击成功率最多下降 10 个百分点。该后门在干净微调后以及不同模型规模和版本间仍然有效。论文称这揭示了 RAG 系统中一个尚未被充分探索的供应链隐私风险，相关代码已公开。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。