标签
微软将于2026年11月为Teams添加第三方深度伪造检测和身份冒充警告功能。此前，该平台上的恶意语音通话尝试在一年内激增至近10倍。
Google推出了一个公开网站，任何人都可以使用其SynthID水印技术来验证图片、视频或音频是否由AI生成，将该工具的使用范围从记者和研究人员扩展到了普通公众。该工具得到了包括OpenAI、Nvidia和Kakao在内的合作伙伴支持，每天可处理100万次验证请求。
该论文对二十个 deepfake 检测器与十种生成器进行了评估，发现检测准确率随时间推移从 99.5% 下滑至 76%，而在对抗性扰动下则崩溃至 2% 以下；基于此，论文提出了一种基于“经生成器重构的可合理否认真实性”的校准式检测范式，可将误认证率控制在至多 1%。
加州大学洛杉矶分校的研究人员展示了一种混合光学-神经处理器，可在并行分析15-18路视频流的同时，以约97.79%的准确率检测深度伪造视频。该系统利用光传播替代能耗极高的数字解码，灵敏度达到99.86%；通过加入无源衍射层还可进一步加深系统，以极低的能耗换取更高的准确率。
DetectifAI，由Tarini Padmanabhuni创立，开发紧凑型AI模型用于设备上的深度伪造声音检测，以对抗日益增长的AI驱动诈骗，通过其SDK针对手机制造商。
Modulate，一家语音智能初创公司，已筹集2500万美元，以利用多个小型AI模型增强其用于转录、情感分析和深度伪造检测的平台。
论文介绍了DF26，这是一个用于检测AI生成的公开演讲视频的基准测试，表明人类和当前检测器的表现都接近随机猜测，凸显了对提高生成模型分布偏移鲁棒性的需求。
本文提出UCF-Net，一种级联融合网络，结合CLIP和DINO以改善Deepfake图像检测，具有更好的跨域泛化能力。
由 deepidv 开发的 deepeye 是一款免费的 Chrome 扩展，能够在你浏览网页时实时检测 AI 生成和篡改的图像、视频和音频，并与 WhatsApp 集成以增强隐私保护。
本文应对由文本生成视频（T2V）模型生成的纯合成假新闻视频日益增长的威胁，提出了一项新的三元分类任务和首个纯合成假新闻视频数据集（PS-FNVD），以及一个推理引导框架（R-T2V），该框架实现了最先进的检测准确率。
本文介绍了 FaceVid-Forensics-100K，一个带有细粒度标注的大规模深度伪造视频数据集，并提出了一个多智能体取证推理框架（ARGUS），该框架使用四个专门的专家智能体和一个裁判智能体，在深度伪造检测上优于闭源模型。
提出利用远程光电容积描记（rPPG）波形检测说话人脸深度伪造，在Celeb-DF++ TF子集上达到0.806的AUC，与最佳通用检测器相当。
Halo by Scam AI 是一款帮助用户在视频通话中验证通话对象真实身份的产品，旨在实时识别诈骗和深度伪造。该产品已通过 Product Hunt 发布并附有链接。
本文提出了一种语言不变的欺骗检测框架，采用师生对抗学习和变分信息瓶颈来缓解语言偏见，在九个数据集上实现了高达36.2%的相对等错误率降低。
The Guardian的一项调查显示，品牌越来越多地在社交媒体上使用AI生成的网红推广产品，但未披露其为人工智能生成，这引发了对提高透明度和加强监管的呼声。
介绍Face-Fairness (FF)，一种用于深度伪造检测中偏见缓解的即插即用框架，其中Face-Feature Tuning (FFT)作为首个无需人口统计标签的公平性方法，能够提升群体准确率并缩小不同人口统计群体间的性能差距。
本讨论探讨了基于历史深度伪造样本训练的活体检测模型是否能泛化到新的合成媒体生成技术，质疑声称具备深度伪造检测能力的供应商的更新周期。
谷歌正在将SynthID和C2PA内容凭证验证扩展到Chrome和搜索中，同时OpenAI将SynthID嵌入其工具生成的图像中，这标志着在让AI生成内容更易于在线检测方面的一次重大推进。
本文提出Emo-Boost，一种多模态深度伪造检测框架，利用情绪线索（视听情绪识别）作为高层语义信号，提升对未见操纵类型的泛化能力，在FakeAVCeleb数据集上实现了平均AUC提升2.1%。
YouTube 正在将其 AI 肖像识别工具扩展到所有 18 岁及以上的用户，让任何人都能监控自己面部的深度伪造内容，并通过 YouTube 隐私政策请求删除。