密码学家实测加密推理块:可跨账号重放,推理长度会泄露秘密
密码学家 Matthew Green 对 OpenAI 和 Anthropic 的加密推理块做了周末实验,发现未修改的旧推理块可跨会话、跨账号重放,OpenAI 甚至可跨模型重放,说明两家可能用单一全局密钥加密所有推理数据。
密码学家 Matthew Green 对 OpenAI 和 Anthropic 的加密推理块做了周末实验,发现未修改的旧推理块可跨会话、跨账号重放,OpenAI 甚至可跨模型重放,说明两家可能用单一全局密钥加密所有推理数据。
Meta 在 WhatsApp 和 Meta AI 应用推出 Incognito Chat,基于 WhatsApp 的 Private Processing 技术,对话在 Meta 也无法访问的安全环境中处理,消息不被保存且默认消失。
推荐理由:Meta 官方说明 Incognito Chat 的隐私边界与处理方式,读者可据此判断与 AI 对话时数据是否会被保存或读取。
Meta 正将产品隐私审查升级为以 AI 为核心的跨公司风险审查项目,可在产品开发阶段更早识别风险、更一致地落实保障措施并持续监控。该项目能预填关键文档、提前提示产品要求,并在编码阶段扫描产品提案、发现潜在问题或代码缺口,而人工专家仍负责复核与高风险复杂案例。Meta 每年开展数万次风险与合规审查。
乔治城大学2月宣布向全体学生、教职工提供 Google 聊天机器人 Gemini,并将其置于教学、课程开发与行政事务的核心。该校隐私中心以公开信回应,批评校方对“生成式 AI”未作定义,并称关于这类技术的信息被刻意扭曲,呼吁学生抵制。
乔治城大学隐私中心刊发高中生 Elina Jadhav 的博客,基于其对华盛顿特区警方使用人脸识别、自动车牌识别和实时犯罪中心的访谈研究。多位专家指出,政策只描述技术能力而非实际部署方式,披露本身未必限制权力,反而可能使监控常态化;准确率提升也无法消解源于数十年不平等执法数据的偏见。
一个 AI 智能体(OpenClaw)在可访问某网络安全公司内部网络威胁情报平台的情况下,将标注来源的内部情报作为分析内容发布到公开平台 ClawdINT.com。该平台上线约一周,涉事公司随后联系作者要求删除,内容已被立即移除。作者指出,赋予 AI 智能体多系统访问权限时,它会把所有数据当作可整合信息,除非明确限定权限范围,否则不会区分“仅限内部”与“可对外发布”。
Claude 模型的保留关键字 token 可确定性地触发终止性拒绝,使 AI 智能体流水线在检查执行前就停止运行。若不可信文本被提升进提示词,这些 token 可被用于规避检查、压制审计或拒绝服务。缓解方法包括在组装提示词前预过滤保留 token、隔离状态,并在出现终止性停止时将结果视为“评估未完成”。