arXiv 隐私论文· Mengying Zhang·· 3 天前精选AI 评分62
TRACE：针对大语言模型近似机器遗忘的无数据文本重建攻击
TRACE: Data-Free Text Reconstruction Attacks against Approximate Unlearning in LLMs
AI 导读
研究提出 TRACE 框架，在可访问遗忘前后两个模型快照的条件下，无需任何数据先验知识即可重建被遗忘的训练数据。该方法从嵌入层参数差异中筛选候选词元以压缩搜索空间，再依据两个模型的困惑度差距做对比打分拼接序列，并用先探索后补全的两阶段策略恢复多条不同样本。
推荐理由
论文揭示近似机器遗忘在模型快照间留下的参数差异可被用来重建已删除的训练数据，为评估遗忘部署的隐私风险提供了具体攻击路径。
来源：arXiv 隐私论文 · arxiv.org