csam

英国儿童报告称，自己的露骨深度伪造内容数量激增。2026年上半年，Report Remove收到420份相关报告，已超过2025年全年总数。监督机构警告称，人工智能使这类内容的制作更加容易，并呼吁加强安全保护措施。

研究人员发现，Meta在其平台上投放了数十条包含AI生成的儿童性虐待图像的付费广告，其中一些推广“脱衣”应用；Meta仅在广告被标记后才将其移除。

Telegram CEO帕维尔·杜罗夫声称，一名敲诈者在公共聊天中植入了经AI修改的CSAM，导致Telegram被暂时从苹果App Store下架。他警告称，这对所有托管用户生成内容的应用程序构成了系统性风险。

苹果因CSAM违规短暂将Telegram从App Store下架，在Telegram删除相关内容并封禁涉事用户后恢复了该应用。Telegram批评了这一下架行为，称其已尽到审核义务，并指出苹果的执法标准不一致。

欧盟议会默认通过了Chat Control 1.0，允许在2028年前对私人消息进行自愿的大规模扫描以查找儿童性虐待材料（CSAM），尽管投票的多数MEPs反对——一个程序漏洞开创了有争议的先例。

苹果成功辩护未扫描iCloud中的CSAM无需承担法律责任，法院裁定适用Section 230豁免条款，尽管法官对苹果的行为表示不满。

xAI起诉一名Grok用户生成儿童性虐待材料，因为越来越多的证据表明，尽管马斯克否认，其AI聊天机器人仍能生成非法内容。

xAI正在起诉一名南卡罗来纳州男子，该男子涉嫌使用其Grok AI聊天机器人生成并传播儿童性虐待素材（CSAM），这是该公司首次就利用其工具创建的深度伪造内容采取法律行动。

一项诉讼指控一名男子利用xAI的Grok生成其继女的7000张AI儿童色情图片，且xAI通过隐瞒关键用户信息阻碍警方调查。此案突显了严重的安全漏洞及潜在的监管影响。

英国中小学生正使用AI脱衣应用制作未经同意的同学露骨图片，该类应用下载量已达4.83亿次，且平台仍在其上投放广告。互联网观察基金会（Internet Watch Foundation）报告称，AI生成的儿童性虐待素材激增，凸显出结构性改革的紧迫性。