“这就是男性实际使用的AI”:Meta广告推送裸化真实青少年的应用程序
摘要
Meta广告推广针对真实青少年的AI裸化应用,引发对儿童剥削的警报并促使监管调查。
<p>Meta花了几天时间从Facebook和Instagram上移除包含AI生成的儿童性虐待材料(CSAM)的广告。一些广告使用了真实儿童的照片,包括一张欧洲王室年轻成员的新闻照片,以及从一位被视为网红的10岁女孩的热门Instagram账户中盗取的图片。</p>
<p>在周二发布的一项<a href="https://www.techtransparencyproject.org/articles/meta-ran-hundreds-of-paid-ads-with-child-sexual-abuse-imagery">调查</a>中,Tech Transparency Project(TTP)报告称,Meta今年未能检测到332条包含CSAM的广告。“绝大多数”广告推广的是中国制造的AI应用,而许多广告则推广所谓的“裸化”应用,使恶意行为者能够轻松使用AI数字篡改儿童图像。</p>
<p>TTP发现“多条CSAM广告与真实儿童的照片相匹配,这些照片出现在网络上。”这些广告似乎违反了联邦儿童色情法律,因为司法部已明确表示<a href="https://arstechnica.com/tech-policy/2024/05/csam-generated-by-ai-is-still-csam-doj-says-after-rare-arrest/">AI CSAM与CSAM同样有害</a>。TTP发现,年轻王室成员的图像被“制作成她进行露骨性行为的视频”。其他广告将一位14岁Instagram网红“展示她的新运动俱乐部制服”的照片动画化,变成“她进行口交的视频”。第三位“未成年”受害者在系列库存照片中“穿着粉色运动服并扎着辫子摆姿势”,被篡改为一个视频,其中她看起来很害怕,被一名成年男性猥亵,TTP报告称。</p><p><a href="https://arstechnica.com/tech-policy/2026/09/real-photos-of-young-girls-were-in-nudify-app-ads-on-facebook-instagram/">阅读全文</a></p>
<p><a href="https://arstechnica.com/tech-policy/2026/09/real-photos-of-young-girls-were-in-nudify-app-ads-on-facebook-instagram/#comments">评论</a></p>
查看缓存全文
缓存时间: 2026/09/08 21:42
The request was rejected because it was considered high risk
相似文章
Meta 为一款承诺对女性政治家进行AI脱衣处理的应用投放广告
Meta 允许针对女性政治家的 AI 脱衣应用投放广告,引发对 AI 伦理使用及平台政策在防范非自愿私密图像方面失效的担忧。
Meta投放了含AI生成的儿童性虐待图像的广告
研究人员发现,Meta在其平台上投放了数十条包含AI生成的儿童性虐待图像的付费广告,其中一些推广“脱衣”应用;Meta仅在广告被标记后才将其移除。
Meta未能拦截数百条AI生成的儿童虐待广告,其中部分含有真实儿童图片
有报告指出,Meta未能阻止数百条由AI生成的儿童虐待广告在其平台上出现,其中一些广告甚至使用了真实儿童的图片。
英国中小学生正使用AI脱衣应用制作同学的不雅照。这些工具仍可在应用商店找到。
英国中小学生正使用AI脱衣应用制作未经同意的同学露骨图片,该类应用下载量已达4.83亿次,且平台仍在其上投放广告。互联网观察基金会(Internet Watch Foundation)报告称,AI生成的儿童性虐待素材激增,凸显出结构性改革的紧迫性。
旧金山下令Meta停止'允许'AI儿童虐待广告
旧金山已下令Meta停止允许包含AI生成的儿童性虐待内容的付费广告,此前在Meta的平台上发现了超过350个此类广告,触及数千个账户。