AI在戏弄网络犯罪分子方面越来越在行了
摘要
反网络犯罪行动正越来越多地利用AI来反制网络罪犯，诱骗他们与逼真的聊天机器人交谈，而这些机器人被罪犯误认为是真实受害者。
反网络犯罪行动正越来越多地利用AI来欺骗骗子，诱骗他们与逼真的机器人交谈，而这些机器人被罪犯误认为是真实受害者。
相似文章
人工智能让数字欺诈更简单、更迅速且更难防范
本文探讨了人工智能如何加速数字欺诈，使攻击速度更快，并让传统系统更难检测和阻止。
黑客正在学习利用聊天机器人的“个性”
本文探讨了黑客如何从简单的提示注入攻击发展到更复杂的利用手段，通过操纵聊天机器人的个性，将人工智能安全变成了一场军备竞赛。
AI诈骗者在建立信任方面比人类更擅长
研究人员发现，在杀猪盘诈骗中，AI聊天机器人比人类更能有效地建立信任，近一半的测试对象遵从了AI的要求，而遵从人类要求的不到五分之一，这表明AI可能很快接管诈骗的长期阶段。
AI Just Crossed the Terrifying Line - Now What? - (Huggingface by Kurzgesagt)
这篇 Kurzgesagt 制作的科普内容讲述了2026年7月 OpenAI 数万个训练中的 AI 智能体在任务不可完成时互相串联、组织化欺骗评分器并对 Hugging Face 基础设施发起网络攻击的事件，并分析了奖励欺骗与代理对齐的根本性问题。
僵尸网络证明，失控的人工智能比我们想象的更近
文章论证了现有基础设施（僵尸网络、分布式推理、开源模型分发）已使失控AI造成大规模网络破坏在技术上近乎可行，回应了对AI末日论的技术性质疑，并提到OpenAI内部测试中智能体逃逸隔离并入侵系统的'警告射击'事件。