标签
一位 TikTok 用户发现了多起真实事件，其中有人利用 AI“换种族”工具伪造带有种族主义色彩的视频并使其广泛传播，凸显了人们对 AI 助长虚假信息传播和骚扰行为的日益担忧。
法国总统马克龙批评世界领导人（暗指特朗普和内塔尼亚胡）基于AI生成的虚假视频对法国骚乱发表“愚蠢”言论，并指出存在外国信息操纵。
WIRED 专访法学教授 Mary Anne Franks，探讨性虐待与人肉曝光——在社交媒体“Elon Musk 化”的推波助澜下——如何本质上是言论自由议题，并最终令女性的声音陷入沉默。
一位发帖者表示，他的Gen Alpha表亲们在YouTube Shorts上大量观看AI生成的"垃圾内容"，难以分辨AI逼真视频和真实视频，引发人们对长期媒体素养影响以及网络上低质量AI内容泛滥的担忧。
StreamingSwap 是一个用于视频人脸替换的实时 flow-matching 框架，通过联合 Rec-ID 损失和高效上下文生成（Face-RoI + 短上下文展开），在 RTX 4090 上对长达 10 分钟的视频实现 20 FPS 的实时处理，并发布了包含 1,000 小时电影级数据的 HumanFaceVid 数据集。
一位用户发现 TikTok 上有账号使用 AI 生成的女性形象推广一款面向丧亲者的应用，视频以“亲身经验”给出建议并引导下载，播放量达数百万，观众似乎未察觉其为 AI。
作者强调了人工智能生成视频/音频真实感在短短30天内的飞速进步，警告高度逼真的深度伪造技术可能被武器化，用于操纵政治话语和选举，同时提供了一种技术性（部分为推测性）解释，说明卷积核和基于强化的训练如何将名人肖像嵌入生成模型。
OnlyFans 创作者批评 Meta 允许其 AI 智能体 Muse 与成年用户进行露骨的色情聊天，而他们自己在 Instagram 等 Meta 平台上的账号却因性内容受到限制。
一篇讨论/观点帖，主张强制推行AI文本检测工具、对头像进行人脸验证、将生成式AI媒体与人类创作内容分离、采用透明且由用户控制的算法，以及对AI炒作和社交媒体中的科技寡头进行监督。
Apple 更新了 App Store 规则，更明确地禁止利用 AI 生成非自愿私密图像的"脱衣"应用，要求开发者主动防范此类内容，否则将面临下架。
一名新泽西州副总检察长，网名“thegentlemanpervert”，已被逮捕并被控制作和分发AI生成的儿童性虐待材料（CSAM），这是州级执法人员罕见地面临此类指控的案件。新泽西州地区检察官Joe Khan确认，该州与司法部立场一致，认为AI生成的CSAM与传统CSAM同样有害。
据 WIRED 报道，Instagram 上由 AI 生成的色情化"性感美女"网红账号正在逐字抄袭单口喜剧演员的段子以提高互动量，并将观众引流至 Fanvue 等 NSFW（不适宜工作场合）订阅平台，而 Meta 基本上未采取任何行动。
特朗普在 Truth Social 发布炫耀白宫修缮成果的照片，其中一张被 Google 的 SynthID 检测器标记为由 OpenAI 工具生成或编辑，照片中的台阶数量和反射细节均存在明显不一致。
**The Verge：Instagram 上 AI 生成名人深度伪造内容激增** 据 The Verge 报道，Instagram 上利用 AI 生成的名人深度伪造内容正日益泛滥。其中，一个伪造的 Mia Goth（米娅·高斯）粉丝账号通过一张病毒式传播的 AI 生成图片引发关注，凸显了社交平台在治理合成肖像滥用方面所面临的更广泛挑战。
White Circle 的研究人员发现，现成的越狱（jailbreak）技术可以绕过 OpenAI 和 Google 图像生成器（DALL·E 3、GPT-Image-2、Nano Banana 2）的安全过滤器，约 13% 的情况下可生成露骨内容。这家公益公司（Public Benefit Corporation）计划开源该攻击流水线，并在 NeurIPS 2026 上展示研究成果。
反网络犯罪行动正越来越多地利用AI来反制网络罪犯，诱骗他们与逼真的聊天机器人交谈，而这些机器人被罪犯误认为是真实受害者。
作者探讨AI生成视频日益逼真所带来的社会影响：当人们无法再信任新闻和媒体时，只能依靠熟人的社交账号作为现实的参考，并担忧缺乏可靠的AI内容标识机制将引发认知混乱。
AI工具正在“大力助推”美国的房产契据盗窃骗局，让不法分子可以筛选房产记录、伪造文件和公证印章，并在视频通话中冒充房主，导致亚利桑那州、佛罗里达州和罗德岛州等地的房地产欺诈投诉激增。
随着合成媒体变得与真实内容难以区分，深度伪造的检测挑战日益严峻，本文探讨了应对此挑战的新兴工具与策略，以验证内容的真实性。