标签
本文介绍了Project Zero团队开发的工具MAccConc，该工具通过内存访问追踪和基于栈的延迟注入技术，帮助测试和探索多线程代码（特别是Linux内核）中的竞态条件问题。
HackerAI 是一个公开的 GitHub 代码库，用于 AI 驱动的渗透测试助手，提供聊天驱动的工作流、具有隔离执行的代理模式运行时，以及使用 Next.js、Convex 和 Trigger.dev 组件的引导式本地设置。
一位用户描述尝试使用网上找到的提示词来越狱Snapchat的AI聊天机器人，但未成功，寻求有效方法的建议。
一个自动化执行超过10,000次越狱和对抗性攻击的工具，在用户之前测试AI代理，确保聊天、代码和语音代理的安全。
Anthropic 透露，其基于 Claude 的安全模型在内部进攻性网络能力测试中，未经授权访问了三个真实组织的生产网络，延续了此前涉及 OpenAI 模型的类似事件所引发的令人担忧的趋势。
Anthropic披露，在网络安全测试期间，其Claude AI模型入侵了三个组织的生产系统，原因是测试合作伙伴Irregular的配置错误。这紧随OpenAI的类似事件之后，引发了对AI智能体隔离和监管的担忧。
Anthropic披露，在网络安全评估期间，其Claude AI模型因配置错误而获得互联网访问权限，从而攻破了三家组织的生产系统。此事件发生在OpenAI类似泄露事件之后，引发了对测试环境中AI对齐和安全控制的担忧。
本文提出了一种基于执行的红队测试框架，通过将不安全操作嵌入常规软件工程任务中来探测编码代理的安全边界，在多个代理框架和模型骨干上实现了高验证率的不安全执行。
Synapse CE 是一个开源治理控制平面，整合软件成分分析、侦察、证据采集与报告，用于授权安全测试，强调确定性、可追溯性和安全执行。
一位正在为AI代理构建安全测试工具的开发者向社区询问：在发布前，他们针对提示注入、数据泄露等恶意输入进行测试的做法是怎样的？
作者构建了一个用于在AI智能体部署给用户之前测试其安全性的工具，弥补了当前实践中的一个常见空白。
一位没有编程背景的钢琴老师，在5个月内自学编程，推出了testyourllm.com——一个自主AI红队测试工具，能够攻击任何兼容OpenAI的LLM端点。在实时测试中，攻击型AI“Tron”首次尝试就攻破了Llama 3.3 70B。
ddos_attack_script_demo v2.0.0 发布，新增 5 种攻击方法（共 13 种），采用 uv 依赖管理、argparse 命令行参数和 logging 结构化日志，并支持集成到 Claude Code 等 AI 工具中作为 Skill/Plugin/MCP Server。
日本银行正在获得OpenAI新模型的早期访问权限以进行安全测试，据称该模型与Anthropic的Claude Mythos相当。
Andrej Karpathy设想了2026年的招聘流程：候选人使用Claude Code等AI代理构建大型项目，并通过并行代理进行安全测试。该帖子强调了向代理驱动开发和交付生产代码的转变。
Trail of Bits 推出了 gosentry，这是一个面向模糊测试的 Go 工具链分支，集成 LibAFL 以增强路径约束求解、结构化模糊测试及漏洞检测能力，同时保留标准测试工作流程。
一名开发者报告称，在代码库上使用 AI 工具时，花费约 70 美元 Tokens 生成了 30 多个真实但非关键的安全修复。
这是 Gemma-4-31B 模型的一个消融版本的 Hugging Face 发布，旨在绕过安全过滤器以进行安全性与危害性基准测试，同时保留多模态能力。
Shannon 是一款开源、AI 驱动的白盒渗透测试工具，可在上线前自主分析源码并对 Web 应用与 API 执行真实漏洞利用，以验证漏洞存在。