跳到正文
arXiv 隐私论文· Zhanhong Jiang·· 1 天前AI 评分38

愿景论文:为何分布式 LLM 后训练与去中心化对齐如今不可或缺

Vision Paper: Why Distributed LLM Post-Training and Decentralized Alignment Are Now Essential

AI 导读

一篇愿景论文主张分布式学习(含联邦与去中心化)应成为 LLM 后训练的一等范式,而非隐私附加项。作者指出 RLHF 和 DPO 隐含“偏好数据应集中”的假设,并从隐私与数据主权、多元性与代表性公平、鲁棒性与可扩展性三方面论证其不可持续。论文形式化了参考漂移、偏好异质性和对比损失的 DP-效用权衡等挑战,并提出算法方向与研究议程。

来源:arXiv 隐私论文 · arxiv.org