arXiv 隐私论文· Achref Jaziri·· 2 天前AI 评分58
论文用局部谱几何刻画扩散模型的记忆盆地并实现干预
Spectral Signatures of Memorization Basins in Diffusion Trajectories
AI 导读
arXiv 论文对条件、无条件及基于 rectified flow 的扩散模型给出记忆盆地的几何刻画，发现盆地入口处局部谱出现主导奇异模态后伴随急剧谱恢复，该特征同时出现在推理去噪轨迹和训练过程中。作者据此在训练期作用于主导模态以抑制记忆，在推理期识别进入记忆盆地的轨迹并将其引导离开，低维几何近似下仍有效，并扩展到大规模文生图扩散模型。
来源：arXiv 隐私论文 · arxiv.org