角色归属攻击 RGA 可通过社交互动篡改智能体记忆并窃取隐私

研究提出角色归属攻击（RGA），利用智能体记忆系统在角色与主体归属上的漏洞，通过嵌套对话结构让受害智能体把攻击者的偏好误记为自身用户的偏好。该攻击在记忆形成阶段植入嵌套对话，在检索阶段持续影响决策，可实例化为工具选择操纵和隐私泄露，后者会让受害智能体调用攻击者控制的工具并在参数中带上敏感信息。作者在五种主流记忆系统和六个语言模型上评估，两类攻击均取得较高成功率。