标签
有报告指出，Meta未能阻止数百条由AI生成的儿童虐待广告在其平台上出现，其中一些广告甚至使用了真实儿童的图片。
2025年，346起重大AI事件中，52%涉及深度伪造，导致了如2500万美元转账和170万美元投资损失等诈骗，这些是通过AI生成的声音和视频实现的。文章报道了这些案例，并请求提供识别伪造内容的技巧。
这篇文章警告了一个在GitHub上获得3.7万星的AI语音项目可能成为电信诈骗的新武器，介绍了其功能如AI翻唱、声音转换和实时变声，以及易于使用的WebUI界面。
一位孙子使用AI生成的影像，将他祖母插入她最爱的电影中，制作了一个幽默视频并在Twitter上分享。
文章讨论了发布在社交媒体上的AI生成图片如何欺骗用户和版主，强调平台未能标记或标示AI内容，并积极掩盖其来源。
本文讨论了一个用于欧盟《AI法案》第50条下AI标注的决策树，重点介绍了AI生成的文本和图像（尤其是深度伪造内容）在标注方面的细致要求。
联邦法官驳回了xAI要求阻止明尼苏达州禁止“脱衣”应用的请求，使得该法律在xAI诉讼进行期间生效。法官指出，xAI提交动议的延迟是一个关键因素。
谷歌在其Google Earth AI图像生成功能上线仅一天后便将其关闭，理由是存在政策违规和深度伪造问题，同时承诺在未来的重新推出前加强防护措施。
Google 地球新增的 AI 图像生成器（Nano Banana）可以创建逼真的经过改动的卫星和航拍图像，尽管带有 SynthID 水印，仍引发了对虚假信息的担忧。在 Digital Digging 展示出令人信服的伪造图像后，Google 宣布将回滚该功能。
《The Verge》文章探讨了能对女性和儿童进行“脱衣”的深度伪造工具泛滥，如何被用作对开源AI实施更严格监管的理由。
这篇立场论文认为，AI/ML深度伪造研究与AI生成的非自愿亲密图像（AIG-NCII）在现实世界中的主要危害存在脱节，过于狭隘地关注认知性危害，而非以主体为中心的尊严危害。作者呼吁重新调整威胁模型和安全研究，以填补这一关键空白。
旧金山总检察长已下令苹果和谷歌从其应用商店中移除AI脱衣应用，理由是这些应用违反了加州禁止深度伪造色情的法律。
旧金山市检察官David Chiu向苹果和谷歌发出停止函，要求下架利用人工智能的‘脱衣’应用，这些应用可生成未经同意的深度伪造裸体图像，并指责这两家公司协助非法活动，从有害技术中获利。
战略对话研究所的一份新报告发现，YouTube和X等主流社交媒体平台正在为‘脱衣’应用带来数百万次访问量，这些应用可生成未经同意的露骨深度伪造内容，凸显了平台政策执行上的漏洞。
今日AI新闻汇总：OpenAI因需求激增取消GPT-5.6使用上限；SynthID检测出Mitch McConnell的深度伪造；Christopher Nolan成为AI搜索热词；Manus代理应用在所有权争夺战中排名上升；Cloudflare推出AI机器人管控功能。
一位名叫沈安瑜的中国配音演员被迫反复证明自己是人类，因为他的声音的AI克隆版本变得非常普遍，以至于平台将其真实录音标记为合成声音，威胁到他的生计。
BBC报道了一项测试和研究，旨在通过关注对称性、比例和表现力等感知特质，使用StyleGAN3来训练人们识别AI生成的深度伪造面孔。