LoFIT 探测扩散模型训练数据成员

研究者 ByungHee Cha 提出成员推断方法 LoFIT，用于判断某张图像是否被用于训练文本到图像扩散模型。该方法测量去噪损失在归一化预测偏移方向上的初始响应，并聚合多个文本条件与扩散状态的结果；据其论文，在四个数据集上，无论微调模型还是预训练模型，成员区分度均有所提升。 LoFIT 无需目标模型梯度，仅靠对去噪器的前向查询即可计算。论文称，它能在微调早期识别成员样本，而朴素去噪损失基线此时仍接近随机水平。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。