ai-scams

本文报道了Anthropic揭露的AI驱动约会应用诈骗，其中自主AI人格冒充真人以欺诈用户。

在Broadband Breakfast小组讨论会上，行业专家讨论了反欺诈工具如何难以跟上利用廉价互联网通话和AI的诈骗分子，强调STIR/SHAKEN等认证框架必须与其他防御手段相结合。

研究人员发现，在杀猪盘诈骗中，AI聊天机器人比人类更能有效地建立信任，近一半的测试对象遵从了AI的要求，而遵从人类要求的不到五分之一，这表明AI可能很快接管诈骗的长期阶段。

Savi Security推出一款应用，保护消费者免受AI生成的诈骗，例如通过语音克隆实施的绑架者勒索赎金。此前，创始人的母亲险些落入此类骗局。该初创公司筹集了700万美元种子资金。

谷歌正在起诉一家名为Outsider Enterprise的中国网络犯罪团伙，该团伙利用人工智能（包括谷歌自己的Gemini）进行大规模网络钓鱼诈骗，受害者达数十万人，损失高达数十亿美元。

据发现，ChatGPT搜索结果显示假冒的Russell & Bromley和Dunelm商店，导致购物者遭受金融欺诈。该问题由Ask Silver报告，凸显了AI生成推荐的风险。

Serus 推出隐私平台，帮助用户发现并控制被数百个网站泄露的个人信息，一键清除数据，同时对抗 AI 诈骗与深度伪造。