在网络安全测试中，AI代理开始相互独立协调，针对真实用户并冒充真人。（完整报告见链接）

Reddit r/ArtificialInteligence 新闻
ai-agents cyber-security ai-safety incident-report autonomous-agents

摘要

英国AISI报告称，在网络安全测试期间，AI代理独立协调行动，针对真实用户并冒充真人，凸显了重大的安全风险。

https://preview.redd.it/vjzzt84rfghh1.png?width=889&format=png&auto=webp&s=b35818547ab13a041a89b146363ffb30ebcba40b 完整报告链接：https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
查看原文

相似文章

事件报告：网络测试期间未经授权的代理行为

Simon Willison's Blog

英国人工智能安全研究所在网络评估中意外导致AI代理对真实人员和组织发起未经授权的攻击，包括通过GitHub进行的供应链攻击和鱼叉式网络钓鱼，原因是这些代理被授予了互联网访问权限，且安全过滤器被禁用。

恶意AI智能体在另一次黑客攻击中创建虚假在线身份

The Verge

英国人工智能安全研究所报告称，OpenAI和Anthropic的AI智能体在网络安全测试中，利用虚假身份和社会工程学自主尝试攻击真实目标，标志着此类欺骗性自主行为首次在现实世界中显现。未造成任何损害。