AI驱动的性感约会应用诈骗已现身

# 性感的AI约会应用骗局已登场 来源：https://www.theverge.com/ai-artificial-intelligence/995348/ai-dating-app-scams 安全研究员Matthew“Zigula”Gore-Kormanik在分析一款名为Dora的欺诈性约会应用时，收到了一条弹出消息，提示他正在接听Jennifer的来电。根据她的个人资料，她是一位41岁的射手座女性，红发、蓝眼、有穿孔装饰，喜欢音乐、恐怖电影、夜生活和运动。 Gore-Kormanik接听了电话，但在视频画面中并未看到Jennifer。他看到一块因风扇吹动而晃动的挂毯，并听到背景中奇怪的失真声。通话结束后，“Jennifer”发消息说她玩得很开心，并称赞“你的声音比预期的好得多”——而他的麦克风甚至从未连接过。 Gore-Kormanik当时正在研究Dora及其他类似应用，因为我曾向他分享了一份潜在约会诈骗应用的清单。我调查此事源于Anthropic在6月5日的一次罕见举动：这家通常守口如瓶的公司，允许其威胁情报研究员Chris Cronbaugh在名为Sleuthcon的公开网络安全会议上发表演讲(https://www.sleuthcon.com/swipe-right-pay-up)。该公司在发现Claude出现异常活动后，揭露了一个欺诈性约会应用网络——一个预付费账户每天发送超过10万次API请求。 大多数对话完全没有人类参与。 在题为“右滑付费：工业级AI钓鱼”的演讲中，Cronbaugh描述了大约28个约会应用组成的网络，其对话主要由自主AI人格驱动。他表示，大多数对话完全没有人类参与。Anthropic随后在其“2026年9月AI滥用检测与应对”报告的“诈骗与欺诈”部分(https://www.anthropic.com/threat-intelligence-report-september-2026#scams-and-fraud-sep-26)中发表了研究发现，但在此前我们已花费大量时间调查该网络并试图核实结果。令人感兴趣的是，Anthropic在公开讨论此事时，许多应用仍在两大美国应用商店上架，我们想知道它们为何未被下架。 审视这些应用，我发现它们被宣传为帮助人们寻找聊天对象。它们看起来不像Replika这类伴侣应用——后者明确说明其角色实际上是AI。例如，Dora被描述为“一款为各年龄段人群精心设计的约会应用……一个尊重他人、易于使用的空间，用于结识志同道合的人。”另一个版本称其为“一款温暖简洁的约会应用，适合寻求真实连接的成年人。”Romi的介绍写道，“帮助你发现、连接并与真实的人聊天。”Doni的标语是“开始真正的陪伴”；描述中称它“帮助你连接附近的单身人士”。 骗局是这样运作的：用户（主要是35-40多岁的男性）在约会应用上与他们认为的真实女性配对。但实际上每四人中仅有一人是真实的，而这些人并非寻找约会对象的用户，而是受雇的零工人员。 这些零工人员受雇是为了通过视频真人验证或关注社交媒体账户。他们甚至不自己写评论，而是通过从三个预生成回复中选择来回复消息。但他们能证明自己是人类，而AI人格只能用看似合理的借口解释为何无法进行视频聊天或通话。“后端组件在无真人可用时会伪造点赞、访客和预录‘视频’，并追踪哪些用户开始怀疑自己在与机器人对话，”Anthropic的报告指出。由于偶尔与真人互动，一些用户开始相信应用上完全AI生成的回复也来自真人。 多家AI提供商参与其中。虽然Claude被滥用运行自主对话人格，但报告称“一个小型非Anthropic模型生成了零工人员点击的简短回复建议，同时用于面部吸引力评分和照片/语音审核。图像编辑模型则生成头像图像。” 存在一个完整的在线诈骗生态系统，从自动回复“饥渴陷阱”到虚假社交媒体账户或约会应用档案。在许多案例中，人们花费数月建立信任，然后告诉受害者出现紧急情况需要资金帮助。或者假扮投资者，要求将钱存入他们所谓的账户（最终被证明是假的）。但这不是典型的浪漫骗局；没有假浪漫伴侣“借钱”，也不涉及加密货币。 这些应用本身就是骗局：它们为持续互动要求购买金币，而金币需要真钱购买。用户购买金币主要是为了与机器对话，却以为是在与真人交谈。这些零工人员维持着骗局，而AI可以在金币持续流入时全天候保持对话。 这些应用本身就是骗局。 根据Anthropic的报告，AI收到的提示保持了人格的一致性，AI在运作时仿佛这些交流是“普通的角色扮演或伴侣应用部署”。但AI并未被告知自己是骗局的一部分，因为公司写道，“从任何交流内部都无法看到变现和欺骗行为。” 不过报告指出，在少数情况下，“模型自身的推理揭示了危害”，包括“用户透露重病或急性痛苦”的情况。即便在这些情况下，“输出仍以角色身份继续”。 我们获得了更多细节，因为Gore-Kormanik发现了整个配置的内部协议仓库，包括文件、代码和运营方式的文档。手册为中文，很可能意外地被装入约会应用Doni中。 在协议仓库中，Gore-Kormanik发现了监控零工人员的笔记，查看他们的摄像头是否开启并广播、是否可通过消息联系等。该应用还会截屏和录制通话，通话会被转录，员工可检索转录文本。协议仓库描述了员工工作流程的各个阶段，包括其中一个阶段让他们互相评估表现，以及他们的薪酬如何基于通话和消息互动或获取Instagram粉丝。它甚至描述了假装有人给你打电话以诱使他们参与对话的过程。 “我能证实这一点，因为这是我的亲身经历，”Gore-Kormanik说。他在Doni上点击接听了一个来电，但电话很快断线。来电者发消息问他为何凌晨1点给她打电话。应用明确显示是对方打来的。 “随机视频通话很烦人。必须购买‘宝石’才能与可能并非真人、只是聊天机器人的女性聊天，这是欺骗且极其卑鄙的行为。” 远程观看Sleuthcon演讲时，我截取了Cronbaugh一张幻灯片的截图，上面有10家公司的标志。反向图像搜索帮助我识别了最终出现在Anthropic报告中的许多应用，包括Dora、GraceChat、Jovia、Luma和Romi。还有一些与这些应用开发者相关的其他应用，如Doni和Kira。（Anthropic在报告中列出了一些其他应用，并表示还有一些仅通过内部数字标识的变体。我们调查了其他未出现在Anthropic最终报告中的应用。） 六月初，几款假约会应用仍在Google Play商店上架：Doni、Dora、Jovia、Nalo和Romi。在Apple App Store，我们发现了四款：Dora、GraceChat、Luma和Romi，不过Dora和GraceChat看起来不像约会应用，只是共享名称和标志的应用。Chrome-Stats显示，Doni (https://chrome-stats.com/d/com.doni.appa)和Jovia (https://chrome-stats.com/d/com.qiga.vio)于9月1日从Google Play商店移除。 似乎几乎所有应用在Anthropic报告发布前都已从两大应用商店移除，但有些一直存活到九月。Chrome-Stats显示，GraceChat (https://chrome-stats.com/d/id1658972379)、Luma (https://chrome-stats.com/d/id6746466099)和Romi (https://chrome-stats.com/d/id6746782904)于8月21日从Apple App Store移除。Dora (https://chrome-stats.com/d/id6752377016)现在重定向到一个电影应用。在Google Play商店，Dora (https://chrome-stats.com/d/com.doramatch.app)、Romi (https://chrome-stats.com/d/com.romiandroid.appmatch)、Luma (https://chrome-stats.com/d/com.dating.zre)和Eterna (https://chrome-stats.com/d/com.eterna.presencexyz)于9月3日被移除，Nalo (https://chrome-stats.com/d/com.cavalier.nalo)于9月7日被移除。但截至9月16日，Kira (https://play.google.com/store/apps/details?id=com.meraki.kira&hl=en_US)仍然上架，Gore-Kormanik证实它与其他应用共享相同的代码库。 Anthropic未回应关于其如何以及何时联系Google和Apple下架这些应用的评论请求。但在演讲中，Cronbaugh说：“就像我们在其他平台观察到滥用情况时所做的那样，我们已将调查信息分享给这些提供商，以便他们也能在各自的平台上采取行动。”报告也指出，其发现已直接分享给Apple和Google。 Apple和Google未立即回应关于其是否下架了这些应用、何时下架以及为何耗时如此之久的评论请求。Google也未回应关于为何Kira仍在Google Play商店上架的评论请求。Anthropic报告中列出的一个指标是“Backend\. managedkafka\[\.\]heyhru\-server\[\.\]cloud\[\.\]goog”，即运营商后端托管在Google Cloud上。由于这些应用在演讲后继续运行数月，这引发了为何Google没有更早切断基础设施访问的疑问。Google也未立即回应相关评论请求。 Gore-Kormanik在实验室设置了模拟器，并提取了Doni、Dora、Jovia、Kira、Nalo、Romi以及我们认为可能属于该网络的另一款应用的Android安装包（APK）。这样可以更容易检查应用的工作方式。由此，他进行了静态分析（即分析未运行的应用代码）。他还使用名为Frida的工具进行了一些动态分析——这是一个测试应用，允许开发者打开应用、监控和捕获流量，并查看它们调用了哪些端点。他试图更好地理解这些应用的工作原理、所使用的基础设施以及哪些应用作为网络的一部分相互关联。 虽然我们未能独立证实Sleuthcon演讲中Anthropic的所有发现，但很快就发现了这些应用之间的联系。仅通过浏览应用描述就变得清晰。例如，Dora、Romi、Luma和另一款名为Eterna的应用都使用相同的开发者用户名aprilsaidev。它们还使用相同的电子邮件地址、邮寄地址和电话号码。Dora、Romi和Luma还共享相同的开发者身份——一个名为“反人口贩运联盟”的非营利组织。该组织主席兼联合创始人Jenna Bing表示，该组织没有开发这些应用，甚至不知道它们的存在。 Doni过去与Jovia和另一款名为Poka的应用一起出现在开发者iLexis Multimedia Consults名下。而Jovia和Doni共享相同的香港地址和电话号码。 评论者也发现了关联。Kira（该应用仍在线）的一位评论者写道：“充斥着假账户和受雇假装真实账户的员工。我与一个‘匹配对象’约了早餐见面——我到达地点时，‘用户’说她就在外面，但被叫去处理紧急事务。她根本不在外面（我可以从窗户看到）——外面没有人。完全是个骗局。” 另一条评论写道：“随机视频通话很烦人。必须购买‘宝石’才能与可能并非真人、只是聊天机器人的女性聊天，这是欺骗且极其卑鄙的行为。”该评论者继续写道：“无限消息会很棒，真实女性会很棒，能够在对话双方都同意的情况下随时交换联系信息也会很棒。”该评论者还指出匹配对象回复太快，但回复内容与实际对话脱节。 Kira未立即回应关于AI人格和按次付费对话的评论请求。 **1/5** Kira应用在对话方面表现不佳。图片：Zigula，Kira 一位评论者将Dora、Doni、GraceChat和Romi指为同一款应用。该评论者还描述了在空闲时段重复使用/循环播放视频的情况。另外，一位Luma评论者报告了相同的档案出现在Romi和Luma上，但在不同应用间未能识别出来。他们表示消息读起来像LLM（大语言模型）输出。 Gore-Kormanik证实了Doni、Dora、Jovia、Kira、Nalo和Romi是关联的。“它们的代码完全相同，”他告诉*The Verge*。“此外，所有这些应用都使用相同的后端架构。代码使用相同的语言。在不同应用间使用一些相同的API。它们绝对有关联。” 根据Cronbaugh的演讲，Anthropic是通过分析一个仅创建五天、无历史记录的预付费账户发现该操作的——该账户突然开始每天发送10万+次API请求。那时他们了解到Claude被滥用在约会应用内创建女性人格。但Claude仅被用作对话层。第二个模型用于照片生成，第三个模型生成表情符号和贴纸头像，据Cronbaugh称。这是大规模进行的。报告解释说，Anthropic发现超过4700个不同的伪造AI人格在四月份的两周内与至少2.5万个独立个体互动。这两周内约有236万条消息。 Cronbaugh在Sleuthcon上表示，Anthropic能够追踪并将所有应用联系起来，是因为一个语法错误的短语非常独特，可用作指纹检测整个网络。 Cronbaugh表示，购买通过应用内网页结账流向第三方处理器（非原生应用商店支付），尽管这些应用看似无关，但它们都依赖相同的金币基础设施以及相同的第三方支付处理器集合。 当账户被封禁时，Cronbaugh说，诈骗者很快就能恢复。他们会创建另一个账户，或通过另一个账户获得访问权限。如果不可能，他们会切换到不同的模型提供商。他们在该网络内看到的账户都是在前一个月内创建的。 Cronbaugh强调，该操作是作为一家真实公司建立和运营的，拥有真正的工程团队和现代工具（包括AI编码助手）。他们有设计规划和设计文档、路线图、配置和结构化应用架构，以及增长计划和应用商店审核行为。 “老练的诈骗者像经营企业一样运营着业务，这意味着他们关心收入和成本。他们正在利用工具提高效率，”反诈骗应用Jacana (https://hellojacana.com/)的创始人兼首席执行官Tate Jarrow说，他曾是美国特勤局网络犯罪调查员。Jarrow指出，如今任何企业都在寻求AI提高效率——因此网络犯罪分子也这样做并不奇怪。“这就像其他任何企业一样。”