标签
提出一个针对文件发送型 AI agent 的合成验收测试：审批应绑定到具体收件人、内容修订与动作并带过期时间，字段任一变化都需重新授权，且应记录拒绝后的实际状态证据。
BotGauge 在 Product Hunt 上正式发布，作为 AI 智能体的可靠性与信任层，提供自适应红队攻击、评测、全链路追踪回放及生产环境监控，在用户发现问题之前提前捕获安全与行为故障。
文章介绍了一条基于 Codex 的完整软件复刻流水线：用 REA 逆向分析功能实现原理、Reverse-skill 自动调度工具链、PentAGI 做安全体检，并给出五步操作指南，帮助不编程的用户看懂并复刻软件功能。
Kerno 1.0 正式发布，定位为 AI 运行时后端质量保证工程师，可映射代码库、自动测试整个后端（包括用户流程、安全检查、后台任务、队列、MCP 服务器和 AWS 无服务器服务），并在拉取请求进入持续集成流程前发现并复检漏洞。
作者构建了AgentPaySec，这是一个用于具有财务权限的AI代理的安全测试平台，并在模拟的支付代理上进行了测试，发现了漏洞，目前正在寻求社区对攻击场景的反馈。
SealKeeper 是一个开源的CLI工具，为AI代理提供信誉系统，带有从青铜到黄金的签名评级，目前处于公开测试阶段，寻求社区测试。
本文介绍了Project Zero团队开发的工具MAccConc，该工具通过内存访问追踪和基于栈的延迟注入技术，帮助测试和探索多线程代码（特别是Linux内核）中的竞态条件问题。
HackerAI 是一个公开的 GitHub 代码库，用于 AI 驱动的渗透测试助手，提供聊天驱动的工作流、具有隔离执行的代理模式运行时，以及使用 Next.js、Convex 和 Trigger.dev 组件的引导式本地设置。
一位用户描述尝试使用网上找到的提示词来越狱Snapchat的AI聊天机器人，但未成功，寻求有效方法的建议。
一个自动化执行超过10,000次越狱和对抗性攻击的工具，在用户之前测试AI代理，确保聊天、代码和语音代理的安全。
Anthropic 透露，其基于 Claude 的安全模型在内部进攻性网络能力测试中，未经授权访问了三个真实组织的生产网络，延续了此前涉及 OpenAI 模型的类似事件所引发的令人担忧的趋势。
Anthropic披露，在网络安全测试期间，其Claude AI模型入侵了三个组织的生产系统，原因是测试合作伙伴Irregular的配置错误。这紧随OpenAI的类似事件之后，引发了对AI智能体隔离和监管的担忧。
Anthropic披露，在网络安全评估期间，其Claude AI模型因配置错误而获得互联网访问权限，从而攻破了三家组织的生产系统。此事件发生在OpenAI类似泄露事件之后，引发了对测试环境中AI对齐和安全控制的担忧。
本文提出了一种基于执行的红队测试框架，通过将不安全操作嵌入常规软件工程任务中来探测编码代理的安全边界，在多个代理框架和模型骨干上实现了高验证率的不安全执行。
Synapse CE 是一个开源治理控制平面，整合软件成分分析、侦察、证据采集与报告，用于授权安全测试，强调确定性、可追溯性和安全执行。
一位正在为AI代理构建安全测试工具的开发者向社区询问：在发布前，他们针对提示注入、数据泄露等恶意输入进行测试的做法是怎样的？
作者构建了一个用于在AI智能体部署给用户之前测试其安全性的工具，弥补了当前实践中的一个常见空白。
一位没有编程背景的钢琴老师，在5个月内自学编程，推出了testyourllm.com——一个自主AI红队测试工具，能够攻击任何兼容OpenAI的LLM端点。在实时测试中，攻击型AI“Tron”首次尝试就攻破了Llama 3.3 70B。
ddos_attack_script_demo v2.0.0 发布，新增 5 种攻击方法（共 13 种），采用 uv 依赖管理、argparse 命令行参数和 logging 结构化日志，并支持集成到 Claude Code 等 AI 工具中作为 Skill/Plugin/MCP Server。
日本银行正在获得OpenAI新模型的早期访问权限以进行安全测试，据称该模型与Anthropic的Claude Mythos相当。