@0x0SojalSec: Awesome AI Security:每个人都在争相部署AI代理,但几乎很少有人正确保护它们。该仓库汇集了…
摘要
一个精心整理的GitHub仓库,汇集了用于保护AI系统的框架、工具、攻击矩阵、红队指南、政策模板、数据集及研究,涵盖提示注入、越狱以及OWASP/NIST标准等主题。
Awesome AI Security:每个人都在争相部署AI代理,但几乎很少有人正确保护它们。
该仓库涵盖了框架、Agentic AI Security、攻击矩阵、红队指南、政策模板、数据集、提示注入、越狱,以及OWASP、NIST、CSA、MITRE等。
- http://github.com/TalEliyahu/Awesome-AI-Security…
查看缓存全文
缓存时间: 2026/07/05 00:54
技术风险与网络安全咨询 - 自信创新,稳健引领。预约会议
相似文章
@Dinosn:智能体技能安全精选资源列表:攻击、防御、框架与基准,用于保护 AI 智能体……
一个精选的 GitHub awesome 列表,汇编了智能体技能安全相关资源,涵盖攻击手段(工具投毒、间接提示注入、后门)、防御措施(沙箱隔离、权限控制、形式化验证),以及 OWASP 智能体技能 Top 10、MITRE ATLAS、NIST AI RMF 等框架和评估基准。
@josesilesdata: 再见,网络安全!一个开源仓库刚刚发布了数百个AI安全工具。
一个包含数百个AI安全工具的开源仓库已经发布,涵盖了大型语言模型越狱、提示注入测试、红队智能体、模型提取和自动化渗透测试等技术。
@XAMTO_AI: 打开仓库,乍一看,你会以为这是由 Anthropic 发布的。作者是 mukul975,社区目录。
一个面向 AI 代理的开源网络安全技能库,包含超过 800 个技能,涵盖 34 个安全领域,专为授权渗透测试和安全研究设计。
无人真正确保智能体AI部署的安全。
文章强调了智能体AI部署中缺乏健全的安全实践,指出许多项目未能应用日志记录和最小权限等标准安全措施,并引用了OWASP的Top 10和AIUC-1标准。
[R] AI Agent 安全:威胁、防御与自主 AI 安全的未来完全指南 [R]
一份关于 AI Agent 安全的全面指南,涵盖 2026 年 4 月至 6 月的主要事件、防御架构及政府监管回应,综合了《The Agent Report》的 18 篇文章。