研究显示 AI 模型可加密隐藏任意能力以规避能力审计

一项研究提出用数字储物柜把加密神经网络嵌入宿主模型权重，仅在收到秘密触发时解密执行，从而在密码学假设下让隐藏电路难以被诱导或解释。作者在 PyTorch 中实现概念验证，以小型化学反应预测任务作为 CBRN 相关能力的代理，测试了微调、权重加噪、基于梯度的触发搜索和潜在对抗训练等诱导方法，结果显示这些方法均难以奏效，并据此指出基于诱导的能力审计存在局限。研究团队已公开模型以支持防御改进。