技术如何赋能又危及独裁者:AI 监控、审查与替代官僚
俄罗斯 RT 已用 AI 生成虚拟主播,俄数字发展部长称 AI“能替代一半官员”。中国“零信任 AI 系统”在约 30 个县市交叉比对 150 多个政府数据库反腐,标记 8,700 名官员后遭地方抵制而回退;俄罗斯 20 万摄像头人脸识别系统曾用于 2021 年抗议中抓捕示威者,其 Oculus 系统每日扫描数十万张图片审查政治内容。
俄罗斯 RT 已用 AI 生成虚拟主播,俄数字发展部长称 AI“能替代一半官员”。中国“零信任 AI 系统”在约 30 个县市交叉比对 150 多个政府数据库反腐,标记 8,700 名官员后遭地方抵制而回退;俄罗斯 20 万摄像头人脸识别系统曾用于 2021 年抗议中抓捕示威者,其 Oculus 系统每日扫描数十万张图片审查政治内容。
EDRi 转载成员 ARTICLE 19 的报告,审视欧盟如何通过 EES 和 ETIAS 大幅扩展边境监控。
推荐理由:借 ARTICLE 19 对 EU-LISA 采购合同的分析,呈现欧洲边境生物识别系统如何把监控能力交给私人承包商。
Open Rights Group 正推动政府禁止在移民与庇护决策中使用 AI,并委托 Cloisters Chambers 的 Robin Allen KC、Dee Masters 及 Doughty Street Chambers 的 Joshua Jackson 出具法律意见,认定英国内政部未告知庇护申请人其评估中使用了 AI 工具很可能违法。
数字银行 Revolut 推出刷脸支付技术,Big Brother Watch 的 Jack Coulson 对此发表评论,认为用户交出生理特征并不安全。他指出,本月 Revolut 曾将部分用户的家庭住址、护照信息和面部数据交给一名诈骗者,受影响客户面临钓鱼攻击和欺诈风险。
推荐理由:原文把 Revolut 人脸支付与本月一起泄露事件并置,读者可据此判断生物特征支付的风险与立法缺口。
美国多州立法机构正在审议一项新豁免条款,拟将经单向数学过程转换为"数学表示"、且无法逆向还原原始生物特征数据的生物识别信息排除在生物识别隐私保护之外。目前尚无任何州综合隐私法正式通过该豁免,但相关法案数量持续增加,部分已接近立法。该豁免的核心"可逆性"未获定义,可能适用于不同安全等级的转换过程,包括可撤销生物识别等隐私增强技术。
英国信息专员办公室(ICO)CEO Paul Arnold 就智能眼镜等 AI 可穿戴设备发声,指出其既能帮助视障人士和痴呆症患者,也存在被人在不知情下拍摄记录等严重隐私问题。他提到 ICO 监管沙盒曾与 Cross Sense 合作开发面向痴呆症患者的智能眼镜,并强调物理空间的透明度机制过度依赖视觉提示,对视障者长期不可用。他呼吁企业在产品功能之外也投资于安全保障机制,让隐私设计成为创新来源。
英格兰和威尔士的酒吧和商店将接受数字 ID 作为年龄证明,Big Brother Watch 高级法律与政策官员 Jasleen Chaggar 回应称,政府应确保数字 ID 不会成为事实上的强制要求,否则将把数百万人排除在外。
英国内政大臣 Shabana Mahmood 呼吁警方在抗议活动中使用人脸识别,Big Brother Watch 高级法律与政策官员 Jasleen Chaggar 回应称,将口罩禁令、人脸识别与 ANPR 组合用于管控合法表达,是对抗议权的威胁。
推荐理由:呈现隐私倡导组织对英国内政大臣要求警方在抗议中使用人脸识别的直接回应,读者可了解围绕抗议权与生物特征监控的争议立场。
Open Rights Group 的 Pam Cowburn 撰文批评英国政府为防止 18 岁以下用户创建或分享裸体图像而推动的手机端扫描方案,认为其安全与隐私代价过高。
Open Rights Group 发起“数字庇护所”(Digital Sanctuary)倡议,要求英国政府保障移民、难民和寻求庇护者享有与其他人同等的数据保护、隐私与言论自由权利,不受基于法律身份的歧视。
#SafetyNotSurveillance 联盟今年秋季将在伦敦、曼彻斯特和布里斯托举办系列社区大会,讨论警方使用的 AI 工具与“犯罪预测”技术的影响。该联盟由英国数字、种族与移民正义领域的组织和草根团体组成,呼吁终止所谓“预测性”警务技术,并推动立法保护民众权利。
澳大利亚隐私专员 Carly Kind 撰文指出,Meta Glasses 等可穿戴监控设备正在消费市场扩张,Google 计划今年推出 Android XR 智能眼镜,Apple 的产品预计 2027 年推出,Kmart 和 Amazon 等零售商已开始销售低价版本。
推荐理由:澳大利亚隐私专员从监管者视角梳理智能眼镜等可穿戴监控设备带来的隐私缺口,并说明现行法律与拟议改革各自能覆盖到哪里。
乔治城大学隐私中心刊发高中生 Elina Jadhav 的博客,基于其对华盛顿特区警方使用人脸识别、自动车牌识别和实时犯罪中心的访谈研究。多位专家指出,政策只描述技术能力而非实际部署方式,披露本身未必限制权力,反而可能使监控常态化;准确率提升也无法消解源于数十年不平等执法数据的偏见。
乔治城大学隐私中心今年秋季迎来两位新研究员:Ayah 以 Fritz Fellow 身份研究高校校园监控对学生组织与异议的影响,Taman 以 Justice Fellow 身份参与移民监控相关工作。Taman 提到中心“Raiding the Genome”项目揭示移民乃至部分美国公民的 DNA 被无限期存入执法数据库,并称自己有两位叔叔已被驱逐出境。