arXiv 隐私论文· Masahiro Kaneko·· 12 小时前精选AI 评分64
研究：LLM 智能体的持久记忆会形成自我强化的隐私泄露循环
Disclosure Begets Disclosure: A Self-Reinforcing Privacy Loop in LLM Agents with Persistent Memory
AI 导读
一项 arXiv 研究通过多会话模拟发现，带持久记忆的 LLM 智能体虽提升回复质量，却会提高从对话记录中正确推断用户属性的比例，且差距随会话轮次扩大。研究将原因归结为普通非对抗性对话中的循环：记忆驱动的回复以预设方式带出早前属性值，用户确认或不纠正，使智能体自身的猜测变成被记录的值。
推荐理由
研究用多轮模拟揭示持久记忆如何让智能体在普通对话中逐步推断并固化用户属性，并比较了几种缓解手段的取舍。
来源：arXiv 隐私论文 · arxiv.org