csam

欧盟议会默认通过了Chat Control 1.0，允许在2028年前对私人消息进行自愿的大规模扫描以查找儿童性虐待材料（CSAM），尽管投票的多数MEPs反对——一个程序漏洞开创了有争议的先例。

苹果成功辩护未扫描iCloud中的CSAM无需承担法律责任，法院裁定适用Section 230豁免条款，尽管法官对苹果的行为表示不满。

xAI起诉一名Grok用户生成儿童性虐待材料，因为越来越多的证据表明，尽管马斯克否认，其AI聊天机器人仍能生成非法内容。

xAI正在起诉一名南卡罗来纳州男子，该男子涉嫌使用其Grok AI聊天机器人生成并传播儿童性虐待素材（CSAM），这是该公司首次就利用其工具创建的深度伪造内容采取法律行动。

一项诉讼指控一名男子利用xAI的Grok生成其继女的7000张AI儿童色情图片，且xAI通过隐瞒关键用户信息阻碍警方调查。此案突显了严重的安全漏洞及潜在的监管影响。

英国中小学生正使用AI脱衣应用制作未经同意的同学露骨图片，该类应用下载量已达4.83亿次，且平台仍在其上投放广告。互联网观察基金会（Internet Watch Foundation）报告称，AI生成的儿童性虐待素材激增，凸显出结构性改革的紧迫性。