扩散模型记忆盆地获谱几何刻画

Achref Jaziri 等人在 arXiv 论文中提出，用局部谱几何刻画扩散模型的记忆盆地：盆地入口处局部谱出现主导奇异模态，随后伴随急剧谱恢复，这一特征同时出现在推理去噪轨迹和训练过程中。该刻画覆盖条件、无条件及基于 rectified flow 的扩散模型。 作者据此在训练期作用于主导模态以抑制记忆，在推理期识别进入记忆盆地的轨迹并将其引导离开；论文称在低维几何近似下仍有效，并已扩展到大规模文生图扩散模型。上述效果为作者自述，尚待独立验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。