AI 代理正在成为一个新的攻击面。欢迎加入 @OpenHandsDev 和 @GraySwanAI 的深度讨论，主题涵盖提示注入、代理特有的威胁，以及如何构建能经受真实攻击考验的智能体。

立即预留席位 👉 https://t.co/g3YcxoxVH1

AI 如何重塑网络安全 · Zoom · Luma

来源：https://luma.com/openhands-0yga?utm_content=382277527&utm_medium=social&utm_source=twitter&hss_channel=tw-1793978852919885824

AI 代理已经能够编写代码、管理基础设施，并凭借对真实系统的实际访问权限做出决策。这是其优势所在。但这也构成了一个全新的攻击面。

代理带来了传统安全团队从未考虑过的风险：提示注入让代理自身的指令变成了社会工程攻击的目标；而拥有代理工具的对手，其行动速度和深入程度远超人类。与此同时，代理也创造了真实的机遇：自动化代码审计、更快的漏洞修复，以及捕捉人类遗漏的监控能力。

OpenHands 和 Gray Swan 将携手深入探讨两个方面：代理如何被利用，以及如何构建在真实攻击中稳定可靠的代理。

我们将涵盖的内容

• AI 代理的实际工作原理（模型、提示词以及赋予它的工具）
• 代理特有的网络安全风险：攻击面、提示注入以及 AI 辅助攻击
• 如何保护代理安全，以及如何利用代理保护其他一切
• 现场讨论与问答

演讲嘉宾

Graham Neubig，OpenHands 首席科学家

Matt Fredrikson，Gray Swan 首席执行官兼联合创始人

适合参会者

安全工程师、平台与基础设施团队，以及正在评估如何部署 AI 代理而不引入新风险的工程领导者。

关于 OpenHands

OpenHands 是安全、透明、模型无关的代码代理的基础平台，赋能每个软件团队以完全掌控的方式更快构建。

关于 Gray Swan

Gray Swan 为大型语言模型（LLM）提供企业级安全解决方案，由 AI 漏洞研究的先驱者开发。