arXiv 隐私论文· Georgios Politis·· 3 天前精选AI 评分60
LLM-Attacker：面向拆分与分布式大模型系统隐私评估的统一红队框架
The LLM-Attacker: A Unified Red-Team Framework for Privacy Evaluation of Split and Distributed LLM Systems
AI 导读
研究者提出 LLM-Attacker 框架，记录攻击者可见消息、模型权重、数据集与恢复度量等选择，使拆分式大模型的隐私评估可检查、比较和扩展。在受控 GPT-2 实验中，加入训练时返回的梯度使 token 恢复率从 94.20% 升至 97.38%，整篇文档精确恢复率从 13.71% 升至 37.77%，token 增益的 95% 区间高于测试前设定的两个百分点阈值。
推荐理由
该框架把攻击者可见信息、数据集与评分规则记录下来，让拆分式大模型的隐私评估可以复现和横向比较。
来源：arXiv 隐私论文 · arxiv.org