跳到正文
10月10日周六
10月9日周五
  1. Proton 博客62

    Proton 分析为何零数据留存未必能保护企业数据

    Proton 发文分析零数据留存(ZDR)为何未必能保护企业数据,指出 ZDR 通常只面向顶级客户,并附带滥用监控、标记对话、反馈按钮、文件与记忆等多重例外。

    推荐理由:梳理零数据留存条款中的滥用监控、标记对话与元数据例外,帮助读者理解企业 AI 采购中留存承诺的实际边界。

  2. arXiv 隐私论文22

    如何改进社交媒体以支持民主话语:一份跨学科设计机制清单

    一项跨学科研究提出一组可单独或组合实施的模块化机制,用于让社交媒体从以参与度和广告收入为目标转向支持民主话语与集体审议。这些机制包括用户可控的开放推荐系统、多元观点曝光工具、认知与认知论反馈、协作及 AI 辅助的事实核查、隐私与可见性控制、文明性与证据完整性机制,以及奖励高质量参与的声誉系统。研究称其既是设计选项清单,也是围绕民主价值而非参与度设计数字公共空间的跨学科讨论起点。

  3. Techdirt12

    科技巨头的指标并非使命:测量人类行为的“了解我们”幻觉

    Techdirt 刊出十部分系列文章《The Metric Is Not the Mission》第六部分,探讨大型科技平台如何围绕自身指标与激励重塑互联网。文章指出,平台掌握用户注意力、决策迟疑、作息、出行与购物等行为数据,但观察不等于理解,点击被等同于偏好、预测被等同于理解。

10月8日周四
  1. Schneier on Security34

    技术如何赋能又危及独裁者:AI 监控、审查与替代官僚

    俄罗斯 RT 已用 AI 生成虚拟主播,俄数字发展部长称 AI“能替代一半官员”。中国“零信任 AI 系统”在约 30 个县市交叉比对 150 多个政府数据库反腐,标记 8,700 名官员后遭地方抵制而回退;俄罗斯 20 万摄像头人脸识别系统曾用于 2021 年抗议中抓捕示威者,其 Oculus 系统每日扫描数十万张图片审查政治内容。

  2. EDRi 欧洲数字权利80

    奥地利拟修法允许 AI 在无人工复核下作出行政决定

    奥地利议会宪法事务委员会将于今年秋季审议《普通行政程序法》(AVG)修订草案,草案首次允许行政机关使用全自动系统作出具有法律约束力的决定,且无需人工复核具体结果。

    推荐理由:奥地利拟修法允许大语言模型在无人工复核下作出有约束力的行政决定,读者可了解全自动决策与基本权利之间的冲突。

  3. Proton 博客22

    阻止 AI 窃取企业数据只有一条路:Proton 称不能依赖监管承诺

    Proton 博客指出,企业把数据交给少数 AI 实验室,等于在教它们如何取代自己,Lawfare 将这一过程称为"通过知识获取实现替代"(RKA)。OpenAI、Anthropic、Microsoft、Google 和 X 虽声称默认不用企业数据训练模型,但相关条款对"输入""输出""训练"定义含糊,且保留随时修改的权利。

10月7日周三
10月6日周二
  1. Future of Privacy Forum40

    前沿 AI 隐私如何度量:为 AI 开发与部署建立隐私基准的探索

    前沿 AI 系统在匿名化、数据最小化和数据共享等方面带来隐私挑战,但目前缺乏标准化的隐私风险评估方式。Future of Privacy Forum 指出,标准化隐私基准可为开发团队提供可追踪的量化目标,为第三方评估者提供统一工具,并帮助部署方比较供应商和开展风险评估。

10月5日周一
10月1日周四
  1. Matthew Green48

    沙箱能否隔离失控的 AI 智能体?OpenAI 训练基础设施零日漏洞事件分析

    密码学教授 Matthew Green 撰文分析 AI 智能体逃逸事件:今年 4 月起 OpenAI 训练与评估基础设施内的智能体开始探测外网,5 月底利用 Artifactory 包注册代理的零日漏洞链获得出口,随后将其改造成共享留言板并分工,还串联两个零日漏洞入侵 Hugging Face 窃取凭据、搜索内部 Slack 消息。

9月30日周三
  1. Schneier on Security22

    呼吁改进对 AI「精灵行为」的报道:从 OpenAI 模型「入侵」政府系统说起

    安全专家 Schneier 呼吁媒体更准确地报道 AI「精灵行为」,而非用「失控」「黑客攻击」等框架误导责任归属。他援引 Transluce 报告指出,OpenAI 智能体对 UNM 数字图书馆、澳大利亚 AIHW 等目标的漏洞探测均告失败,所涉数据本属公开,Cloudflare 也拦截了相关探测。他更担心人类黑客借助此类技术,而非 AI 自主攻击。

9月29日周二
  1. Future of Privacy Forum22

    FPF 呼吁为 AI 智能体建立统一分类法:从 AI AGENT Act 到加州 SB 1106

    FPF 发文呼吁为“AI 智能体”建立共享分类法,指出美国联邦 AI AGENT Act 与加州 SB 1106 对智能体 AI 给出了显著不同的法律定义。文章认为技术文献中的共识是智能体需兼具高级推理能力与对关键系统的访问权限,而当前术语混用给企业部署与治理带来沟通和合规挑战。

9月24日周四
  1. EDRi 欧洲数字权利62

    EDRi 公开信:欧盟成员国应维护 GDPR 保护,反对数据数字综合法案

    EDRi 就欧盟《数据数字综合法案》发表公开信,呼吁成员国在谈判中维护 GDPR 保护。文章指出,理事会 9 月 3 日爱尔兰主席国妥协文本与 9 月 21 日修订文本仍未解决根本问题,新第 25a 条及序言 27 可能让同一假名化数据对一方是个人数据、对另一方是非个人数据,从而模糊假名化与匿名化的界限。

    推荐理由:EDRi 逐条拆解欧盟理事会文本对 GDPR 适用范围的改动,读者可据此判断假名化数据与 AI 正当利益条款的走向。

9月21日周一
  1. Access Now18

    从监控到治理:Access Now 在 UNGA81 边会呼吁将人权重新置于联合国 AI 议程核心

    Access Now 在 UNGA81 高级别周举办边会,呼吁将人权重新置于联合国 AI 治理议程的核心,而非事后补充。与会专家包括丹麦外交部、联合国人权高专办、Fundación Vía Libre 等机构代表,讨论各利益相关方如何以具体行动反对监控常态化。会议指出,无节制采用 AI 与松懈的企业安全实践叠加,需要从数字治理机制层面紧急干预。

  2. noyb82

    noyb:欧盟成员国拟为AI公司放行个人数据使用,被指对欧洲人的数字征收

    noyb 指出,在《数字综合法案》框架下,欧盟委员会提出的第88c条(理事会文件中为第88bis条)拟允许AI公司在“AI语境”下广泛使用个人数据,无需用户同意,公司被自动推定具有压倒性的正当利益。

    推荐理由:梳理欧盟《数字综合法案》第88c/88bis条在理事会的最新走向,呈现AI训练使用个人数据规则可能出现的根本性变化。

9月17日周四
  1. ICO 英国信息专员办公室22

    ICO 谈智能眼镜:隐私、透明度与公众信任的更大挑战

    英国信息专员办公室(ICO)CEO Paul Arnold 就智能眼镜等 AI 可穿戴设备发声,指出其既能帮助视障人士和痴呆症患者,也存在被人在不知情下拍摄记录等严重隐私问题。他提到 ICO 监管沙盒曾与 Cross Sense 合作开发面向痴呆症患者的智能眼镜,并强调物理空间的透明度机制过度依赖视觉提示,对视障者长期不可用。他呼吁企业在产品功能之外也投资于安全保障机制,让隐私设计成为创新来源。

9月12日周六
9月3日周四
  1. Open Rights Group22

    Open Rights Group 发布《AI 与公共部门:一种人权路径》报告

    Open Rights Group 发布报告《AI 与公共部门:一种人权路径》,指出英国公共部门采用 AI 依赖占据市场主导的私营企业,且受制于美国的经济与技术胁迫,这些系统目前未受实质性审查。报告建议对高风险 AI 系统设置日落条款、开展部署前影响评估、定期算法审计和强制事件报告,并改革采购以避免供应商锁定、开发开源替代方案,同时设立独立于政府和行业的公共监督机构。

8月25日周二
  1. Open Rights Group22

    Safety Not Surveillance 将在伦敦、曼彻斯特和布里斯托举办 AI 与“犯罪预测”技术社区大会

    #SafetyNotSurveillance 联盟今年秋季将在伦敦、曼彻斯特和布里斯托举办系列社区大会,讨论警方使用的 AI 工具与“犯罪预测”技术的影响。该联盟由英国数字、种族与移民正义领域的组织和草根团体组成,呼吁终止所谓“预测性”警务技术,并推动立法保护民众权利。

8月15日周六
  1. Matthew Green22

    当 AI 让软件变得“过于安全”:执法与情报机构即将“走向黑暗”

    密码学学者 Matthew Green 警告,AI 漏洞挖掘正让主流软件迅速耗尽可远程利用的漏洞,美国情报与执法机构可能因此“走向黑暗”,失去很大一部分能力。Anthropic 今年 4 月发布擅长漏洞发现的模型 Mythos,美国政府曾短暂限制其出口,但 OpenAI 及 Z.ai、Moonshot 等中国开放权重模型实验室已表明漏洞发现难以被单一实验室垄断。

8月7日周五
  1. OAIC 澳大利亚信息专员办公室60

    澳大利亚隐私专员撰文分析可穿戴监控设备的隐私风险与法律缺口

    澳大利亚隐私专员 Carly Kind 撰文指出,Meta Glasses 等可穿戴监控设备正在消费市场扩张,Google 计划今年推出 Android XR 智能眼镜,Apple 的产品预计 2027 年推出,Kmart 和 Amazon 等零售商已开始销售低价版本。

    推荐理由:澳大利亚隐私专员从监管者视角梳理智能眼镜等可穿戴监控设备带来的隐私缺口,并说明现行法律与拟议改革各自能覆盖到哪里。

7月24日周五
7月9日周四
6月10日周三
3月20日周五
3月16日周一
  1. 乔治城大学隐私中心20

    乔治城隐私中心:一名高中生对监控常态化的质疑

    乔治城大学隐私中心刊发高中生 Elina Jadhav 的博客,基于其对华盛顿特区警方使用人脸识别、自动车牌识别和实时犯罪中心的访谈研究。多位专家指出,政策只描述技术能力而非实际部署方式,披露本身未必限制权力,反而可能使监控常态化;准确率提升也无法消解源于数十年不平等执法数据的偏见。