arXiv 隐私论文· Junfeng Jiao·· 1 天前精选AI 评分60
研究：1331 起儿童相关 AI 事件显示伤害多源于部署与治理而非模型缺陷
Safe by Benchmark, Unsafe in Practice: Lessons from 1331 Child-Related AI Incidents
AI 导读
研究构建以儿童为中心的 AI 伤害分类体系，编码 1331 起公开报道的儿童相关 AI 事件，标注内部与外部伤害类型及对应失效模式。结果显示伤害集中在表征、尊严与心理类别，且更多与部署场景、治理和滥用失效共现，而非模型缺陷；对单个儿童的伤害也常与波及未接触系统儿童的人群级伤害相关联。作者据此提出年龄验证、描绘同意核验、安全设计 UX 约束、事件披露规范与针对发展性风险的审计等模型层之外的缓解措施。
推荐理由
研究编码 1331 起儿童相关 AI 事件，指出伤害多源于部署场景与治理失效而非模型缺陷。
来源：arXiv 隐私论文 · arxiv.org