专注于AI安全的CTF - 提示注入、代理劫持、安全绕过（6月17-22日）

Reddit r/ArtificialInteligence 事件
ctf ai-security prompt-injection agent-hijacking guardrail-bypass open-source cybersecurity

摘要

一场免费的AI安全CTF竞赛，挑战内容包括提示注入、代理劫持和防护栏绕过。活动时间为6月17日至22日，奖金池超过1000美元。

大家好，我是KubeArmor（开源CNCF项目）的DevRel。我们正在举办一场完全关于AI安全的CTF，具体涉及LLM和AI代理中的实际攻击面。 **三个挑战赛道：** * **提示注入** \- 破坏系统指令、利用多轮对话、通过间接技术绕过安全过滤器 * **代理劫持** \- 使AI代理滥用其工具、污染其数据和记忆、链式利用漏洞 * **防护栏绕过** \- 查找隐藏端点、在安全层生效前拦截响应、重放认证令牌 我们的理念是让参与者亲身体验那些随着AI在生产环境部署而日益相关的攻击类型。你不需要安全背景即可参与。较简单的挑战非常易于入手，一切都在浏览器中运行，无需任何设置。 18个挑战，难度从入门到困难。免费，个人参赛，6月17日至22日。奖金池超过1000美元。
查看原文

相似文章

免费AI代理安全评估

Reddit r/AI_Agents

Antitech 为AI代理提供免费的早期安全评估服务，针对提示注入、工具滥用、数据泄露等攻击向量进行测试，并提供漏洞报告和参与折扣。

宣布 Save CTFs 基金

Lobsters Hottest

OtterSec 宣布 Save CTFs 基金，这是一项 10 万美元的承诺，用于资助新型 CTF 挑战，这些挑战能够抵御 AI 的一次性求解，旨在保护 CTF 的教育和竞争价值。

理解提示词注入：AI安全的前沿挑战

OpenAI Blog

OpenAI发布了关于提示词注入攻击的指导，这是一种社会工程漏洞，恶意指令可以隐藏在网页内容或文档中，诱骗AI模型执行意外操作。该公司概述了其多层防御策略，包括指令层级研究、自动化安全测试和AI驱动的监控系统。