标签
xAI 工程师 Wes Morrill 报告称，一封伪装成 xAI 的高仿钓鱼邮件通过了 SPF、DKIM、DMARC 验证，甚至显示了蓝色认证徽章，但 Grok 机器人仍检测出了其中隐藏的钓鱼链接，解释了漏洞所在，并起草了一份报告连同修复建议一并提交给 xAI。
Google DeepMind 与新加坡政府科技局（GovTech）宣布推出一款端侧 AI 诈骗检测模型。该模型基于轻量级 Gemma 模型微调而成，可在本地标记带有操纵性质的对话，同时不影响端到端加密或用户隐私。该两阶段处理流程在 2026 年新加坡国际网络安全周上亮相，并在主权沙箱环境中仅使用匿名化诈骗数据进行训练。
Elon Musk 转发了用户 DirtyTesLa 的帖子，展示 Grok 机器人如何帮助检测并拦截日益逼真的诈骗邮件，凸显 AI 在日常安全防护中的应用。
Scam & Fraud Detector 是一个AI代理，为可疑消息、优惠或支付提供即时风险评估，提供清晰分类和可操作步骤。
Amazon在Alexa for Shopping中推出了一项AI功能，使客户能够通过分析发送者信息和内容，与Amazon系统进行比对，以验证消息是否为诈骗。
Meta 正在 WhatsApp 上推出可选的 Scam Alert 功能，该功能使用设备端机器学习来标记可疑消息，而无需将内容发送到服务器，帮助用户屏蔽或举报诈骗。
本文介绍了首个公开的多模态数据集，包含100个土耳其诈骗和良性电话通话，评估了七种大语言模型在原始音频、ASR转录和人工纠正转录下的表现。结果表明，基于转录的输入优于直接音频，凸显了在低资源语言中进行包容性AI安全研究的必要性。
Google 正在为其 Phone 应用推出一项新功能，该功能可以检测并标记冒充联系人使用 AI 语音克隆进行诈骗的电话，Pixel 手机运行 Android 12 及更高版本时将自动激活。
ORACLE是一种新的智能体框架，用于从流式应用使用轨迹中早期预判诈骗。它采用自进化上下文管理器和同策略自蒸馏技术，从跨多个应用和天数的部分观察中检测诈骗。
PreScam 是一个用于建模多轮对话中骗局演进的基准测试，基于真实世界的骗局报告构建。它包含实时终止预测和诈骗者行为预测等任务，发现监督式编码器的表现优于零样本大语言模型。
OpenAI正与AARP及其老年人技术服务部门（OATS）启动多年合作伙伴关系，帮助老年人安全使用AI，包括推出关于使用ChatGPT识别诈骗的新教育内容，以及在全国范围内扩展培训计划。
本视频教程介绍如何利用ChatGPT识别潜在诈骗信息，并通过官方渠道独立验证以保障安全。