谷歌DeepMind与新加坡政府宣布推出新的人工智能工具，保护民众免受诈骗侵害

# Google DeepMind 与新加坡政府宣布推出保护公民免受诈骗的新 AI 工具 来源：https://deepmind.google/blog/on-device-ai-scam-detection-mddi/ 2026年10月14日责任与安全 此次合作推出了一款端侧诈骗检测模型，帮助保护公民，同时不损害隐私\。 诈骗占新加坡报案犯罪总数的一半以上，自2019年以来已造成超过40亿新元的损失\。与此同时，诈骗手法已从简单的网络钓鱼转向复杂的社会工程攻击，攻击者通过令人信服的对话操纵受害者，然后索要钱财\。此类诈骗如今造成的损失占全部诈骗损失的比例高达80%\。 为应对这一问题，Google DeepMind 与新加坡政府科技局 \(GovTech\) 一直在携手合作，这是我们与新加坡政府开展的国家级 AI 合作伙伴计划 (https://deepmind.google/blog/strengthening-singapores-ai-future-a-new-national-partnership/)的一部分\。通过这一合作，我们推出了一款端侧诈骗检测模型 \- 经过优化，可在新加坡常见的智能手机上运行 \- 在保护公民隐私的同时，应对迫切的安全挑战\。 ## 不损害隐私的端侧 AI 保护 通用模型往往难以应对本地化的欺骗手法，这使诈骗检测更加困难\。为解决这一问题，Google DeepMind 使用本地诈骗对话对其轻量级 Gemma 模型进行了微调\。这些对话涵盖冒充公共机构、银行和本地知名人士，以及近期流行的区域性骗局，确保模型能够区分无害的社交闲聊与真正的操纵行为\。 这款新模型还在设备上处理对话数据\。传统上，威胁检测依赖于在云端对消息进行服务器端扫描，但许多消息平台采用端到端加密 \- 这意味着它们无法检查私人对话\。人们需要在保持对话私密的同时免受诈骗侵害，而我们的解决方案是将威胁分析转移到设备上\。这使模型能够更快地分析对话模式，识别操纵意图，让公民能在资金受损或身份凭证泄露之前采取行动\。 ## 技术原理：本地语境与边缘计算效率 当模型检测到具有操纵性的对话模式时，会直接在用户设备上触发实时警告，建议用户在分享敏感信息或转账之前暂停操作并保持谨慎\。 在现代智能手机上运行复杂的诈骗分类模型并非易事，其中电池使用效率是需要重点关注的问题\。为此，我们采用了两阶段处理流程： - 第1阶段：轻量、高效的分类器以极低的功耗筛查收到的消息，重点识别潜在威胁\。 - 第2阶段：使用经过微调的 Gemma 模型进行语境评估，分析更大范围的对话片段，以确认威胁或排除误报\。 ## 以严格治理为基础 此次合作在新加坡国际网络安全周 \(SICW 2026\) 上亮相，为消息平台兼顾用户保护与端到端加密提供了范例\。整个开发过程始终遵循严格的治理要求： 主权沙箱：微调在 GovTech 管理和维护的 GCP 环境中进行，确保训练数据保持隔离\。 不使用公民数据：训练严格排除私人信息或可识别个人身份的信息，使用从诈骗报告和情报数据源中提取的匿名化数据集\。 压力测试：使用合成对话和本地语料库对模型进行测试，以覆盖多种诈骗类型和不断演变的冒充手法\。 端侧安全的未来 该项目展示了 AI 如何帮助消息服务打击犯罪，也表明，通过直接在设备上运行具有保护作用的 AI，可以同时保障安全与隐私\。它还展示了政府与模型提供商如何携手开发造福公众的技术\。消息平台和操作系统供应商可以直接集成这些轻量级模型，在本地保护用户，确保聊天互动安全，同时避免泄露私人数据\。 ### 加强新加坡的 AI 未来：一项新的国家级合作伙伴计划 ### 通过 AI 加速规划，推动英国住房建设 ### 宣布我们与大韩民国的合作伙伴关系 ### 通过 AI 驱动的科学与教育，加速印度的探索发现 ### 加强我们与英国政府的合作，支持 AI 时代的繁荣与安全 ### 深化我们与英国 AI 安全研究所的合作 ### Google DeepMind 支持美国能源部开展“创世纪”计划：一项加速创新与科学发现的国家使命