大约两年内，我们从“AI说些尴尬话”发展到“2500万美元的深度伪造欺诈”
摘要
文章讨论了从微小的人工智能尴尬事件到Arup公司2500万美元深度伪造欺诈案的变化，强调真正的人工智能威胁是通过合成媒体进行的社会工程攻击，而不仅仅是幻觉或偏见。
Arup案并非传统意义上的黑客攻击——而是一次深度伪造，说服某人授权转账。没有利用代码，没有恶意软件，只是足够好的合成媒体加上正常的人类信任。感觉关于AI风险的讨论仍然停留在幻觉和偏见上，而实际损失的资金正在通过生成质量增强的社会工程手段流失。我们是否在命名真正的威胁模型方面落后了？
相似文章
深度伪造骗局蒙蔽公司与家庭
2025年，346起重大AI事件中，52%涉及深度伪造，导致了如2500万美元转账和170万美元投资损失等诈骗，这些是通过AI生成的声音和视频实现的。文章报道了这些案例，并请求提供识别伪造内容的技巧。
在连现实都可疑的世界里识别深度伪造
随着合成媒体变得与真实内容难以区分，深度伪造的检测挑战日益严峻，本文探讨了应对此挑战的新兴工具与策略，以验证内容的真实性。
AI语音钓鱼和深度伪造的演示方式反而让人们更难识别它们
文章指出，识别AI语音钓鱼的常见建议存在缺陷，因为真实攻击使用的是实时变声器，而非文本转语音的人工痕迹，作者提供了一个免费演示来帮助用户了解。
名人 AI 深度伪造视频无人能幸免
**The Verge：Instagram 上 AI 生成名人深度伪造内容激增** 据 The Verge 报道，Instagram 上利用 AI 生成的名人深度伪造内容正日益泛滥。其中，一个伪造的 Mia Goth（米娅·高斯）粉丝账号通过一张病毒式传播的 AI 生成图片引发关注，凸显了社交平台在治理合成肖像滥用方面所面临的更广泛挑战。
AI 深度伪造正变得越来越失控。
微软将于2026年11月为Teams添加第三方深度伪造检测和身份冒充警告功能。此前，该平台上的恶意语音通话尝试在一年内激增至近10倍。