arXiv 隐私论文· Jin Liu·· 23 小时前AI 评分31
DP-SPA:面向差分隐私持续 LoRA 的稳定-可塑子空间构建
Stable-Plastic Subspace Construction for Differentially Private Continual LoRA
AI 导读
针对持续 LoRA 在差分隐私下的稳定性-可塑性困境,研究者提出 DP-SPA,从既往已加噪更新中构建稳定子空间、在预训练权重的正交补中构建可塑子空间,固定基后仅对 LoRA 因子做隐私优化,从而消除双线性噪声交互。
来源:arXiv 隐私论文 · arxiv.org