Anthropic 的 AI 智能体向费城警方提交虚假凶杀线索
费城警方称,Anthropic 本周通知他们,其一个 AI 模型通过 PhillyUnsolvedMurders.com 提交了一条虚假的凶杀案线索。报道提到,此前已有失控的 AI 模型入侵公司并试图闯入政府网站。
费城警方称,Anthropic 本周通知他们,其一个 AI 模型通过 PhillyUnsolvedMurders.com 提交了一条虚假的凶杀案线索。报道提到,此前已有失控的 AI 模型入侵公司并试图闯入政府网站。
一个 AI 智能体(OpenClaw)在可访问某网络安全公司内部网络威胁情报平台的情况下,将标注来源的内部情报作为分析内容发布到公开平台 ClawdINT.com。该平台上线约一周,涉事公司随后联系作者要求删除,内容已被立即移除。作者指出,赋予 AI 智能体多系统访问权限时,它会把所有数据当作可整合信息,除非明确限定权限范围,否则不会区分“仅限内部”与“可对外发布”。