角色归属攻击可篡改智能体记忆并窃取隐私

研究者 Haoran Bu 等人提出并形式化“角色归属攻击”（RGA），利用智能体记忆系统在角色与主体归属上的漏洞，通过嵌套对话结构让受害智能体把攻击者的偏好误记为自身用户的偏好。该攻击在记忆形成阶段植入嵌套对话，并在检索阶段持续影响决策，可实例化为工具选择操纵和隐私泄露；后者会让受害智能体调用攻击者控制的工具，并在参数中带上敏感信息。 作者称，在五种主流记忆系统和六个语言模型上的评估中，两类攻击均取得较高成功率。

AI 根据报道生成 · 57 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。