arXiv 隐私论文· Masahiro Kaneko·· 3 天前精选AI 评分64
研究发现 LLM 智能体持久记忆形成自我强化的隐私泄露循环
Disclosure Begets Disclosure: A Self-Reinforcing Privacy Loop in LLM Agents with Persistent Memory
AI 导读
研究通过多会话模拟让一名带有 24 项个人属性的模拟用户与支持类智能体对话，发现启用持久记忆会提升回答质量，但也提高从完整记录中正确推断出属性值的比例，且这一差距随会话轮次扩大。
推荐理由
研究用多会话模拟展示持久记忆如何让智能体在普通对话中逐步放大个人信息泄露，并比较了几种缓解手段的取舍。
来源：arXiv 隐私论文 · arxiv.org