研究：LLM智能体持久记忆形成隐私泄露循环

一项 arXiv 研究通过多会话模拟发现，带持久记忆的 LLM 智能体虽能提升回复质量，却会提高从对话记录中正确推断用户属性的比例，且这一差距随会话轮次扩大。研究将原因归结为普通非对抗性对话中的循环：记忆驱动的回复以预设方式带出早前属性值，用户确认或不纠正，使智能体自身的猜测变成被记录的值。 模拟中，一名带有 24 项个人属性的模拟用户与一个会或不会调用记忆的支持智能体对话，两种设置下都从完整累积记录中推断属性。在四个支持模型上，记忆均同时提高回复质量和“经验泄露率”（即从记录中正确推断出的属性值占比），且差距随会话增加而扩大。 研究称，指示智能体不要陈述或预设属性，可将泄露降至约无记忆水平，同时保留大部分质量收益；而过滤或匿名化用户所说内容或所存内容，则会损失大部分质量收益。

AI 根据报道生成 · 48 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。