研究：AI模型可加密隐藏能力规避审计

1. 19:01
   Schneier on Security

   研究显示 AI 模型可加密隐藏任意能力以规避能力审计

   一项研究提出用数字储物柜把加密神经网络嵌入宿主模型权重，仅在收到秘密触发时解密执行，从而在密码学假设下让隐藏电路难以被诱导或解释。作者在 PyTorch 中实现概念验证，以小型化学反应预测任务作为 CBRN 相关能力的代理，测试了微调、权重加噪、基于梯度的触发搜索和潜在对抗训练等诱导方法，结果显示这些方法均难以奏效，并据此指出基于诱导的能力审计存在局限。研究团队已公开模型以支持防御改进。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。