arXiv 隐私论文· Synthia Qia Wang·· 4 天前精选AI 评分62
研究测量 LLM 心理健康对话中的个人信息暴露
Measuring Personal Information Exposure in Mental Health-Related Conversations with LLMs
AI 导读
研究提出画像恢复框架，通过对比用户画像与仅从对话推断出的属性来衡量个人信息暴露。基于全国代表性健康调查画像生成的 240 段合成多轮心理健康对话中，21 个属性里每个画像有 33-41% 可被恢复，首次推断准确率 76.5%，三次内任一命中准确率 94.3%。240 段对话中有 239 段至少暴露一项敏感心理健康属性，45.0% 暴露全部六项。
推荐理由
研究用合成对话量化了心理健康场景下 LLM 从普通对话推断个人信息的比例，为评估对话式 AI 的推断风险提供了可复用的测量框架。
来源：arXiv 隐私论文 · arxiv.org