MoME:可切换的检索模型遗忘框架
热点事件持续更新
MoME:可切换的检索模型遗忘框架
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
Jingong Chen 提出 MoME 框架,让同一个检索模型在两种模式间切换:Core 模式用于“遗忘”后的推理,Full 模式用于标准推理。研究称,履行删除请求只需切换标志,无需重新训练。 该框架把预训练骨干拆成两部分:保留检索能力的核心参数,以及承载全量知识的零初始化寄生参数;训练时进行梯度隔离,使核心参数不接收遗忘集的梯度。关闭分支得到 Core 模式,开启分支得到 Full 模式。 代码和权重已在 GitHub 发布。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 16:54
MoME:面向检索模型的可切换机器遗忘框架报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv 隐私论文MoME:面向检索模型的可切换机器遗忘框架
研究提出 MoME 框架,将预训练骨干拆分为保留检索能力的核心参数和承载全量知识的零初始化寄生参数,并在梯度隔离下训练,使核心参数不接收遗忘集梯度。关闭分支得到满足删除请求的 Core 模式,开启分支得到保留被删数据知识的 Full 模式,履行删除请求只需切换标志而非重新训练。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。