研究演示开源权重模型可被低成本植入后门

安全研究者 Bruce Schneier 撰文称，其团队在一款开源权重模型中植入后门并完成端到端测试：先用 1.5B 模型验证概念，再扩展到 7B，并通过 OpenAI 的 Codex CLI 运行。Schneier 称，构建这个带后门的模型成本极低，只需一个开放基座模型、一份公开数据集和租用的 GPU。 Schneier 指出，任何权重被修改过的开源模型都可能携带后门，包括任务微调、合并适配器以及 abliterated 版本；其中 abliterated 模型是用户下载未经验证权重的最常见原因。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。