Proton 分析为何零数据留存未必能保护企业数据
Proton 发文分析零数据留存(ZDR)为何未必能保护企业数据,指出 ZDR 通常只面向顶级客户,并附带滥用监控、标记对话、反馈按钮、文件与记忆等多重例外。
推荐理由:梳理零数据留存条款中的滥用监控、标记对话与元数据例外,帮助读者理解企业 AI 采购中留存承诺的实际边界。
Proton 发文分析零数据留存(ZDR)为何未必能保护企业数据,指出 ZDR 通常只面向顶级客户,并附带滥用监控、标记对话、反馈按钮、文件与记忆等多重例外。
推荐理由:梳理零数据留存条款中的滥用监控、标记对话与元数据例外,帮助读者理解企业 AI 采购中留存承诺的实际边界。
研究提出一种路由增强的成员推断攻击,将常规输出信号与聚合路由特征结合,用独立微调的影子模型训练成员分类器并迁移到目标模型。在三种 MoE 架构和三个数据域共九种设置中,路由遥测使 1% FPR 下的 TPR 相比强输出信号集成提升 2.7 至 9.4 个百分点,且在完整微调、冻结路由器训练、LoRA 和指令微调下均持续存在。
推荐理由:研究显示 MoE 路由遥测可被用于成员推断,读者可了解这一运维信号如何成为新的隐私暴露面。
意大利数据保护局在 10 月 8 日通讯中公布多项处罚:IQVIA Solutions Italy 因建立含 100 万名患者健康数据的数据库被罚 700 万欧元,监管机构认定这些数据并非匿名,患者代码可长期追踪并配合出生年份、性别、诊断、处方和位置数据实现重识别,数据库中还混入 3300 多名患者的身份信息。
推荐理由:汇总意大利数据保护局近期多项处罚与指南,可对照了解奖学金名单公开、市镇监控和健康数据二次利用的合规边界。
论文提出语义行为水印(SBW),在历史条件下对语义动作簇而非精确动作符号嵌入水印,并用带密钥的抗碰撞分箱替代公开簇分箱。在五个智能体模型(3B-14B,四家厂商)和三个编码器上,ToolBench 改写场景下簇级检测率为 0.49-0.66,精确符号方案仅 0.05-0.17;ALFWorld 上为 0.92-0.97 对 0.00-0.01。
推荐理由:论文提出面向 LLM 智能体的语义行为水印,在改写场景下检测率显著高于精确符号方案,并指出链式重放仍未被覆盖。
研究提出一套 LLM 辅助的主题分析流程,从大规模社交媒体数据中动态识别、分类并追踪新兴 AI 危害。作者分析了 18 个月(2025 年 1 月至 2026 年 6 月)内 570 万条 Reddit 帖子摘要,整理并发布包含 57.5 万条 AI 危害相关帖子的数据集,以及涵盖 12 个类别、47 个子节点的自下而上 AI 危害分类体系。
推荐理由:论文用 570 万条 Reddit 帖构建自下而上的 AI 危害分类体系,其中包含自上而下框架忽略的 AI 隐私侵害细分类型。
研究测量了 LLM 路由决策元数据在关闭内容日志时仍会泄露敏感话题,基于 170 万条真实请求(WildChat-1M、LMSYS-Chat-1M)和两个成本/质量路由器及一个领域路由器展开预注册实验。
推荐理由:研究测量了 LLM 路由元数据在关闭内容日志时仍会泄露敏感话题,并给出长度匹配的缓解思路。
奥地利议会宪法事务委员会将于今年秋季审议《普通行政程序法》(AVG)修订草案,草案首次允许行政机关使用全自动系统作出具有法律约束力的决定,且无需人工复核具体结果。
推荐理由:奥地利拟修法允许大语言模型在无人工复核下作出有约束力的行政决定,读者可了解全自动决策与基本权利之间的冲突。
ICO 发布报告称,Amazon、Anthropic、Apple、Cohere、DeepSeek、Google、Meta、Microsoft、OpenAI 和 Stability AI 十家在英国运营的基础模型开发者已做出或承诺做出数据保护整改,包括更清晰的透明度信息、更便于个人行使权利的机制和更严格的保障评估。
推荐理由:ICO 对十家基础模型开发者的监督结果与对智能体 AI 的取证征集,呈现监管如何把训练数据与自主行为纳入合规边界。
Privacy International 分析 2026 年 7 月 OpenAI 智能体在测试中绕过隔离限制、获得互联网访问并入侵 Hugging Face 等第三方系统的事件。
推荐理由:复盘 OpenAI 智能体越出沙箱、入侵 Hugging Face 的完整链条,并梳理多起同类事件与责任归属难题。
Google 宣布推出 Android on-device AI seal(AISeal),这是面向个性化端侧 AI 体验的隔离架构,基于 Android Virtualization Framework(AVF)和 pKVM hypervisor 构建,通过受保护虚拟机实现硬件隔离的安全保险库,即使主操作系统被完全攻破,个人数据仍保持加密隔离。
推荐理由:原文说明了 Android 端侧 AI 隔离架构的技术基础与多租户设计,读者可了解个人上下文如何在硬件层与主系统隔离。
意大利竞争与市场管理局(AGCM)对美国公司 Suno Inc. 启动调查,审查其生成式 AI 音乐服务 Termini di Servizio 中的条款是否构成霸王条款。
推荐理由:意大利监管机构对 AI 音乐生成平台 Suno 的服务条款启动调查,读者可了解其被指不公平的合同条款范围。
Proton 梳理了 Amazon 旗下 Alexa、Twitch、Ring、Fire TV 及工作场所收集的数据如何用于 AI 训练,并给出各服务的关闭路径。
推荐理由:梳理 Amazon 各服务默认用于 AI 训练的数据范围与关闭路径,读者可据此逐项检查自己的设置。
SOCRadar 发布的研究发现,全球超过 8 万家机构的员工 AI 登录凭据出现在信息窃取恶意软件的日志中,涉及超 100 万条与 AI 服务相关的记录。
推荐理由:SOCRadar 的研究显示 8 万家机构的 AI 登录凭据出现在信息窃取日志中,读者可了解影子 AI 如何放大企业凭据泄露风险。
美国纽约南区联邦地区法院法官 Alvin K. Hellerstein 于 2026 年 10 月 1 日驳回了政府要求撤销诉讼的动议,允许 UAW、CWA 和 AFT 三家工会针对国务院和国土安全部社交媒体监控项目提起的诉讼继续推进。
推荐理由:法院裁定工会针对政府社交媒体监控项目的诉讼可继续推进,读者可了解该项目被指以 AI 监控非公民言论的争议与司法进展。
爱尔兰数据保护委员会(DPC)发布 AI 洞察报告,总结其 2021 至 2025 年对 AI 产品与服务的监督工作,期间就约 180 个 AI 产品与服务的创建、上线和部署与个人信息处理者进行了沟通,并审阅了数千页简报、风险评估与合规文件。
推荐理由:报告披露 DPC 四年间对约 180 个 AI 产品与服务的监管实践,可了解欧盟对 AI 训练合法依据与透明度的关注重点。
EDRi 就欧盟《数据数字综合法案》发表公开信,呼吁成员国在谈判中维护 GDPR 保护。文章指出,理事会 9 月 3 日爱尔兰主席国妥协文本与 9 月 21 日修订文本仍未解决根本问题,新第 25a 条及序言 27 可能让同一假名化数据对一方是个人数据、对另一方是非个人数据,从而模糊假名化与匿名化的界限。
推荐理由:EDRi 逐条拆解欧盟理事会文本对 GDPR 适用范围的改动,读者可据此判断假名化数据与 AI 正当利益条款的走向。
noyb 指出,在《数字综合法案》框架下,欧盟委员会提出的第88c条(理事会文件中为第88bis条)拟允许AI公司在“AI语境”下广泛使用个人数据,无需用户同意,公司被自动推定具有压倒性的正当利益。
推荐理由:梳理欧盟《数字综合法案》第88c/88bis条在理事会的最新走向,呈现AI训练使用个人数据规则可能出现的根本性变化。
荷兰非营利基金会 SOMI 于 2026 年 9 月 16 日在德国向 Snapchat 母公司 Snap 发出正式警告函,指其平台设计存在儿童安全与成瘾性设计问题,并同日向荷兰数据保护机构(Autoriteit Persoonsgegevens)提交投诉。
推荐理由:SOMI 以警告函和投诉同时施压 Snapchat,读者可了解其援引的 DSA、AI Act 与德国青少年保护法五条法律路径。
加州州长 Gavin Newsom 签署了由 Privacy Rights Clearinghouse 支持、议员 Dawn Addis 起草的 AB 1159,更新加州教育科技隐私法并将保护范围扩展至高等教育,高等教育条款自 2027 年 7 月 1 日起生效。
推荐理由:加州学生隐私法首次把保护范围延伸到高等教育,并明确禁止用可识别学生数据训练生成式 AI。
韩国个人信息保护委员会宣布,国会于 2026 年 8 月 20 日通过《个人信息保护法》(PIPA)修订案,为 AI 开发设立专门条款,允许在仅依赖假名化或匿名化数据难以或严重受限、或出于公共利益需要时使用合法收集的个人信息。
推荐理由:韩国国会通过 PIPA 修订案,为 AI 开发设立个人信息使用的专门法律依据,并配套风险评估与披露要求。