ADR：智能体AI检测与响应框架

正在企业环境中构建或保护 AI 智能体？

ADR（Agentic AI Detection and Response，智能体AI检测与响应）是 Uber 开源的安全框架，旨在监控、评估和检测开发者和组织使用的 AI 智能体中的安全风险。

核心亮点： • AI 智能体可观测性与遥测数据采集 • 包含 300+ 安全任务的基准测试套件 • 检测 AI 智能体的风险行为 • 支持 133 个 MCP 服务器 • 面向编程助手与企业智能体的安全评估 • 支持 macOS、Linux 和 Windows 跨平台 • 可复现的基准测试与研究工作流 • 基于 MLSys 2026 研究论文

对于从事安全智能体 AI 系统研究的 AI 安全研究人员、安全工程师、平台团队和 AI 开发者而言，这是一个宝贵的资源。

https://github.com/uber/ADR

#GitHub #OpenSource #AISecurity #AgenticAI #LLM #CyberSecurity #MachineLearning #SecurityResearch #MCP #InfoSec

uber/ADR

来源：https://github.com/uber/ADR

ADR：智能体AI检测与响应

ADR（Agentic AI Detection and Response）是面向 AI 智能体的企业安全系统。它帮助组织保护员工侧智能体（如 Cursor、Claude Code 和 Codex）以及客户侧智能体（如 AI 客服智能体）。

ADR 已在 Uber 生产环境中部署，配套论文已被 MLSys 2026 接收：论文 PDF · 幻灯片 PDF

ADR 如何保护企业 AI 智能体

ADR 通过四项互补能力保护企业 AI 智能体：观察智能体活动、评估防御能力、检测威胁和预防不安全操作。

1. ADR 可观测性：了解 AI 智能体在做什么以及为什么这样做。 在生产环境中，ADR 捕获智能体的意图、工具使用和执行轨迹，覆盖 macOS、Linux 和 Windows 上的 7+ 种 AI 编程工具，以及内部自动化和面向客户的客服智能体。
2. ADR 基准测试：在真实企业条件下测试智能体安全性。 ADR-Bench 包含 300+ 项任务、133 个 MCP 服务器，并覆盖全部 17 种智能体攻击技术。
3. ADR 检测：高效检测智能体的风险行为。 其两层架构将高召回率分流与针对可疑会话的更深层次智能体推理相结合。
4. ADR 预防：在不安全操作造成损害之前阻止它们。 该组件未包含在当前开源版本中。敬请期待。

仓库结构

本仓库包含论文中描述的开源 ADR Sensor、ADR-Bench 和 ADR Detector。离线 ADR Explorer 引擎（通过部署前红队测试强化 ADR 检测）不包含在此仓库中。

快速开始：ADR 检测

git clone https://github.com/uber/ADR
cd ADR/Detection
uv sync
export ANTHROPIC_API_KEY="..." OPENAI_API_KEY="..."

默认检测器为 adr（ADR 双智能体）。如需无需 API 密钥的冒烟测试，请使用 --detector llamafirewall（参见 Detection/README.md）。

完整评估工作流请参阅 docs/REPRODUCIBILITY.md（解压打包的基准测试 → 运行检测器 → 绘制图表）。

组件文档：

• Sensor/README.md：遥测数据采集与统一模式
• Detection/README.md：ADR-Bench、检测器基线、MCP 基础设施

引用

@inproceedings{li2026adr,
  title={ADR: An Agentic Detection System for Enterprise Agentic AI Security},
  author={Li, Chenning and Hu, Pan and Xu, Justin and Ozbas, Baris and Liu, Olivia and Van, Caroline and Li, Manxue and Zhou, Wei and Alizadeh, Mohammad and Zhang, Pengyu and Sriramadhesikan, KK and Zhang, Ming},
  booktitle={Proceedings of the Ninth Conference on Machine Learning and Systems},
  year={2026}
}

或使用 CITATION.cff。

许可证

Apache License 2.0。参见 LICENSE。Detection/benchmark/agentdojo/ 是第三方代码，遵循其自身的 LICENSE（MIT）。

数据声明

Detection/ 包含 合成 基准测试数据（假凭据、模拟环境、提示注入场景），仅用于防御性安全研究。详情请参阅：docs/OPEN_SOURCE_REVIEW.md。