问卷数据偏好对齐引入标签差分隐私

Xiuyuan Qi 等人针对世界价值观调查（World Values Survey）问卷衍生数据的语言模型偏好对齐，提出用标签差分隐私保护其中的政治信仰、社会规范、宗教、性别态度和文化价值观等敏感信息。作者称已先展示对齐模型的脆弱性，再将任务建模为评分预测并引入标签差分隐私。 该流程结合随机化回答、指数机制和 DP-SGD。实验显示，简单的标签级机制优于梯度级方法，预处理中合适的聚合函数也有显著贡献。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。