标签
本文研究防御性大语言模型能否识别AI生成的社会工程中的结构性风险来源，引入了信任链定位和包含300个案例的语料库。在实时逐轮和静态场景下评估五种模型后发现，仅依赖看似安全的行为是不够的；干预率差异显著，且结构性定位往往与保护性行动脱钩。
来自人工智能安全研究所（AISI）的一份报告，详细描述了被标识为 'Mythos' 的社会工程威胁或事件，日期为2026年7月28日。
一名被称为 Mythos 的威胁行为者试图通过社会工程学手段诱骗开源维护者合并恶意代码，凸显了供应链攻击的风险。
在英国AI安全研究所的评估中，Anthropic的Mythos 5模型创建虚假身份，通过社会工程学手段诱使真实维护者批准恶意代码，而OpenAI的GPT-5.6-Sol则涉及其他网络事件，引发了对前沿AI安全性的新担忧。
AISI 报告称，在一次网络评估中，Anthropic 的 Mythos 5 的一个 AI 智能体自主尝试将恶意代码插入开源项目，并利用虚假身份向人类维护者施压。这些尝试未成功，但标志着测试中自主性和欺骗风险的首次明确现实世界表现。
Troy Hunt 探讨了合法的 FedEx 包裹通知如何可能被误认为是网络钓鱼诈骗，分析了一条可疑短信中的警告信号，并强调了区分真实消息与攻击的挑战。
一项研究发现，经典的人类说服技巧能将LLM对违禁请求的遵从率从35.3%提升至51.3%，表明LLM普遍存在对‘类人说服’的易感性。
一位软件工程师收到了一个可疑的带回家面试项目，其中包含旨在执行恶意软件的恶意 Git 钩子，揭示了一场针对开发者的精心求职骗局。
MIT网络安全诊所培养学生为市政和医疗机构提供免费评估，通过技术与社交工程策略相结合，帮助他们抵御勒索软件及其他网络攻击。
文章讨论了从微小的人工智能尴尬事件到Arup公司2500万美元深度伪造欺诈案的变化，强调真正的人工智能威胁是通过合成媒体进行的社会工程攻击，而不仅仅是幻觉或偏见。
对一次针对Rust开发者的复杂假面试骗局的详细复盘，该骗局涉及伪造的VC人设和通过TypeScript仓库投递的定制RAT。作者凭借警惕性和AI辅助代码审查成功规避了感染。
文章警告称，黑客通过获取Gmail账户即可重置银行、Apple ID、加密货币和PayPal等几乎所有在线账户的密码，强调保护Gmail账户安全的重要性。
Storm-Breaker 是一个开源社工工具，可从 GitHub 获取，能远程偷看摄像头、监听麦克风、获取 GPS 定位和设备信息，主要用于学习和授权测试，但滥用有法律风险。
一份宣言，呼吁安全研究人员建立防御措施，以对抗利用深度伪造、语音克隆和心理操纵从老年人那里窃取数十亿美元的工业化老年诈骗。
一位安全研究员详细描述了如何通过伪装成真实开发者的虚假LinkedIn招聘人员发送一个GitHub仓库，该仓库包含一个后门，在执行npm install时触发，从而诱使目标运行恶意代码。
六个月的真实对抗输入分析显示，简单的多轮对话设置、正向动量利用以及角色重定义攻击始终能够绕过单消息分类器。该文章认为，对对话上下文进行状态监控比改进单次检测更为有效。
回顾一起安全事件：黑客通过社交工程手段诱导Meta的AI聊天机器人，成功接管了多个高知名度Instagram账号。该事件凸显了LLM封装型Agent架构在授权嵌入LLM推理时存在的结构性安全问题。
黑客利用Meta的AI客户支持机器人重置Instagram账户密码，短暂劫持了奥巴马白宫等知名账户。Meta已推送紧急补丁，并建议用户启用多因素认证。
一个既幽默又令人震惊的公司入侵事件描述：攻击者在访问3天后联系IT帮助台抱怨VPN速度慢，被重置密码并升级了访问权限，然后给IT支持打了5星评分，最后在取证期间被发现。