arXiv 隐私论文· Pengrun Huang·· 1 天前精选AI 评分64
InferPriv：评估 LLM 助手推断性隐私泄露的基准
InferPriv: Evaluating Inferential Privacy Leakage in LLM Assistants
AI 导读
研究提出 InferPriv 基准，衡量诚实但好奇的接收方能否从 LLM 助手在常规任务中的回复推断出用户敏感属性。在评估五个前沿模型时，推断性泄露在各模型和提示下都明显高于直接泄露；在隐私感知系统提示下，GPT-6.1-Sol、Sonnet-5.5 和 Gemini-3.8-Flash 的直接泄露接近零，但推断性泄露率仍在 16.2% 至 25.2% 之间。
推荐理由
该基准把推断性泄露与直接泄露分开测量，显示仅看显式泄露会低估智能体的隐私风险。
来源：arXiv 隐私论文 · arxiv.org