基于调查数据的差分隐私偏好对齐

研究针对世界价值观调查（World Values Survey）问卷衍生数据，提出用标签差分隐私保护语言模型偏好对齐，因为这类数据涉及政治信仰、社会规范、宗教、性别态度和文化价值观等敏感信息。作者将任务建模为评分预测，并构建结合随机化回答、指数机制和 DP-SGD 的差分隐私流程。实验显示，简单的标签级机制优于梯度级方法，预处理中合适的聚合函数也有显著贡献。