AI语音钓鱼和深度伪造的演示方式反而让人们更难识别它们

Reddit r/ArtificialInteligence 新闻
voice-phishing deepfakes voice-cloning security ai-demos real-time-voice-changer

摘要

文章指出，识别AI语音钓鱼的常见建议存在缺陷，因为真实攻击使用的是实时变声器，而非文本转语音的人工痕迹，作者提供了一个免费演示来帮助用户了解。

AI语音钓鱼并非由机器人说话的克隆声音，而是由真人操作员使用实时变声器来实现。这一点很重要，因为所有“如何识别语音钓鱼/深度伪造”的提示都是针对文本转语音的人工痕迹，而这些痕迹在声音转换过程中都不存在。声明……我以构建语音钓鱼模拟为生，所以这件事与我利害攸关。但为了准确展示实时变声器和换脸的工作原理，我构建了一个免费演示，让人们可以亲自听到和看到——https://www.callstrike.ai/voice-phishing-simulator（语音钓鱼模拟器）https://www.callstrike.ai/deepfake-security-training（深度伪造视频模拟器）。对着它说话，你会以另一个人的身份实时出现。无需注册，限时60秒，背后有8个云端GPU进行转换，所以需要排队等候。提供了五个固定身份供选择——故意不将你自己的声音克隆回来，因为那不是威胁。你听到的是操作员戴上别人声音时的效果。我们还在输出音频中植入了人工痕迹，使其无法被提取用于任何真实用途。
查看原文

相似文章

深度伪造骗局蒙蔽公司与家庭

Reddit r/ArtificialInteligence

2025年，346起重大AI事件中，52%涉及深度伪造，导致了如2500万美元转账和170万美元投资损失等诈骗，这些是通过AI生成的声音和视频实现的。文章报道了这些案例，并请求提供识别伪造内容的技巧。