@JoshARosen:https://x.com/JoshARosen/status/2105694949438075117

X AI KOLs Timeline 新闻

摘要

Josh Rosen 阐述了随着软件开发全面进入代理化时代,「智能体安全栈」的新兴架构模式:对代理工作进程本身的安全保护、前沿实验室构建的安全代理(如 OpenAI Codex Security、Claude Code),以及供应商通过 MCP、钩子(hooks)和技能(skills)将安全能力直接嵌入编码代理循环。

https://t.co/Q518Pq2krx
查看原文
查看缓存全文

缓存时间: 2026/10/02 06:37

Agentic 安全栈:新兴的架构模式

软件开发正在迅速走向完全 Agentic 化,相应的安全栈也在努力跟上节奏。如果编码 Agent 生成和修改软件的速度远超人工审查的速度,那么安全 Agent 也必须能够自主地发现、修复并验证漏洞。

新一代模型在安全推理方面的能力日益增强,前沿实验室也在明确地为其编码系统配备专门的安全能力。但与此同时,代码总量会大幅增加——由越来越自主的“工人“生成——而攻击和防御这些代码的系统也在同步变得更加强大。即便生成的代码在平均意义上变得更安全,整体的安全问题也未必因此变小。

这引发了一些耐人寻味的问题:生成某次变更的模型,是否也应当负责判定这次变更是否安全?编码 Agent 在工作过程中被允许执行、安装或访问哪些内容?安全审查中哪些部分仍然属于确定性扫描器的职责,哪些又需要模型推理?

围绕这些问题的不同答案,一个庞大的市场正在形成。新一代产品并非简单地在 SAST 中加入 AI,或更频繁地扫描生成的代码。它们将安全直接嵌入 Agentic 开发循环之中,围绕“工人“本身构建管控,并让修复与攻击性测试变得日益自主。

纵观这一新的安全栈,几个架构模式正在浮现。

1. 保护“工厂“本身

最清晰的架构趋势之一,是从执行工作的主体——也就是“工人“(Agent)——的视角来审视这个问题。

传统 AppSec 主要评估的是产物层面的内容,例如源代码、依赖、容器和 IaC。编码 Agent 在这些产物之上引入了另一层系统:它们读取仓库、选择依赖、调用工具、执行命令、加载技能、连接 MCP 服务器、访问凭据,并在人类参与日益减少的情况下做出变更。

Snyk 将由此形成的品类称为 Agentic Development Security(Agentic 开发安全)。其模型将问题拆解为:Agent 使用什么、Agent 做什么、Agent 生成什么。Endor Labs 基本上采用了相同的定义,将 Agentic 开发安全描述为:当 Agent 自主地生成、选择和交付代码时,保护整个过程。

换言之,代码安全并不意味着 Agent 工人本身是安全的。它可能暴露了一个凭据、安装了一个恶意依赖、执行了一个不安全的命令,或被某个 MCP 服务器或技能所操纵。

例如,Endor Labs 的 AURI 涵盖了代码、依赖、Agent 行为、技能、MCP 服务器以及 Agentic 开发环境的其他部分,而不是把代码扫描当作问题的全部。

因此,安全边界必须从代码扩展到工人本身,包括其所处的环境、工具、权限、输入、行为和输出。

2. 前沿实验室与安全 Agent

前沿实验室正在大举投资自己的安全解决方案。OpenAI 的 Codex Security 可以连接仓库,围绕入口点和信任边界构建威胁模型,调查潜在漏洞,在隔离环境中尝试验证,并提出修复方案。其设计目标是更像一位安全研究员,而非传统的扫描器。

Anthropic 也围绕 Claude Code 沿着同样的大方向推进,而安全厂商则越来越多地直接集成到编码 Agent 的循环之中。

例如,Semgrep Guardian 通过 MCP、hooks 和技能安装到编码 Agent 中,使得扫描可以在 Agent 写入文件时即时执行,而不是等待后续的 CI 门禁。

将安全紧贴生成环节,存在一个强有力的架构理由:编码系统本身已经拥有丰富的上下文——包括仓库情况、请求的变更内容、它检查过的文件,以及它做出特定实现决策的原因。在这个上下文仍然可用时,问题可以被发现并修正。

但这个架构之下还有一个更深层的问题:生成代码的模型或厂商,是否也应当负责判定这些代码是否安全?

3. 将生成者与审查者分离

越来越多的公司围绕着这样一个理念进行构建:将代码生成与验证分离。编码 Agent 产出一个候选变更,但由另一个独立系统来判定是否有足够的证据可以信任它。

Sonar 的 Gitar 定位在 Agentic 开发带来的验证瓶颈之上。它不止步于代码审查,而是审查变更、诊断 CI 失败、在监督下应用修复,并产出该变更已通过 CI 的证据。

DryRun Security 直接将自己描述为一个独立的安全验证层。其 Agent 会构建对应用的上下文理解,并审查人类与 AI 生成的变更中是否存在注入、越权、业务逻辑等问题。Corgea 在此基础上更进一步,在实现之前就将工单、设计和规格与实际仓库进行比对。

这些方法折射出 Agent 系统中已经出现的一种模式:工人与监督者各司其职,而不是让单一的自主 Agent 对自己的产出做出所有决定。

4. 围绕 Agent 的控制平面

另一类产品关注的是:Agent 在生成代码的过程中被允许做什么。

Fiddler 在收购 Lumeus 之后,明确描述了围绕编码 Agent 构建的 AI Control Plane。该系统横跨 IDE、CLI、MCP 边界和运行时,其目标是观察和治理 Agent 行为,而非仅仅在代码生成之后对其进行评估。

Salt Code 采取了类似的、与厂商无关的方式。安全策略可以在生成环节应用于 Cursor、Copilot、Claude 等兼容 MCP 的编码 Agent,而不必绑定某个模型,也不必等待下游扫描。Salt 还将同样的策略延伸到 CI/CD 和运行时监控之中。

沙箱、身份、凭据和网络策略天然适配于这一架构。工人可以在隔离环境中执行任务,接收一个限定于特定任务范围的身份,并且只获得完成该任务所需资源的临时访问权限。

这折射出 Agentic 软件领域的一个整体趋势:许多重要的安全决策发生在上下文窗口之外。

5. 保护 Agent 的供应链

传统应用消费的是软件包和库,而编码 Agent 消费的是 MCP 服务器、技能、插件、hooks、指令文件和模型。这些资产可能永远不会出现在最终应用中,但它们可能决定 Agent 在构建应用时会做什么。

JFrog 的 Agent Skills Registry 将技能视为与其他受治理的软件产物同等对待。技能可以被版本化、扫描恶意行为、加密签名、进行访问控制,并从一个受信任的权威系统分发。其 MCP Registry 将同样的架构应用于 MCP 服务器和单个工具,其中包括在 Agent 使用之前就阻止未获批准的服务器的能力。

Corgea 也独立地推出了类似的技能模型。它在开发者安装之前扫描 SKILL.md 指令,并通过一个受治理的注册表分发已批准的版本。Snyk 则从运行时一侧切入这个问题,管控编码 Agent 在运行过程中被允许使用哪些 MCP 服务器和工具。

6. AppSec Agent

另一个趋势是:从自动化安全扫描,走向自动化更多安全工作流本身。Agent 越来越能够调查发现、判断轻重、生成修复,并验证修复是否有效。

Checkmarx 将其方法称为自愈式应用安全。Developer Assist 在编码工具内部运行一个持续的“发现-修复“循环,而独立的分类(triage)和修复 Agent 则处理存量漏洞。该系统可以检测漏洞、检索更多上下文、生成修复方案,并在代码提交之前进行验证。

Legit Security 同样聚焦于工作流中的修复环节。其 Agent 可以自主地对发现进行优先级排序、生成修复方案、提交 pull request,并利用组织代码库中的上下文来确认结果。它们可以并行处理多个受影响的服务,而不必等待人类按部就班地逐个清理漏洞积压。

随着工作流中越来越多的环节走向自主化,人类的角色将越来越集中在策略配置、例外管理,以及 Agent 感到不确定或存在分歧的场景上。

7. 基于模型的扫描

一些更有趣的新型架构,着眼于如何利用由推理模型驱动的 AI 扫描,将扫描能力延伸到确定性分析的边界之外。

Wiz 的 Agentic Code Security 根据速度、深度和成本在确定性与非确定性扫描之间进行路由。持续的确定性分析覆盖那些成本低且已被充分理解的场景;AI 扫描处理更具上下文和逻辑性的漏洞;而更深层的 Agentic 调查则保留给那些风险足够高、值得付出这一成本的变更。

Cycode 的 Agentic Code Scanning 包含四层,而非两层:确定性 SAST、AI 生成的确定性 SAST 规则、针对扫描发现的 AI 可利用性分析,以及针对无法通过规则有效表达的漏洞类别的 Agentic 代码扫描。

在这些新产品中,模型负责处理歧义、应用上下文以及此前未知的模式,而确定性系统则负责处理我们已经知道如何精确且低成本表达的问题。

8. 闭环渗透测试

攻击性测试一侧也正在经历类似的转型。传统渗透测试之所以全面但低频,是因为应用的变化速度太快。

Agentic 渗透测试通过让测试更加持续,改变了其经济性。Invicti Agentic Pentest 将自主推理与基于证据的 DAST 结合,让 Agent 在探索的同时由确定性技术来验证漏洞的可利用性。Invicti 明确地将该产品定位为解决每日软件发布与周期性人工渗透测试之间的错配问题。

Bugcrowd 的 Savant Pathseeker 使用专门的 Agent 来完成侦察、规划、利用和报告。它可以在预生产或生产环境中运行,并返回关于某次利用尝试是否真正成功的证据。

Wiz Red Agent 同样作为一个具备上下文感知能力的攻击者来应对应用和 API,它会推理应用行为、验证可利用的风险,而不只是识别可疑模式。

最新入场者之一 Armadin 将这一思路超越了单个漏洞的发现。其自主 Agent 会执行侦察、并行探测薄弱环节,并尝试将已验证的弱点串联成完整的攻击路径。

攻击性 Agent 可以提供持续的证据来源,这些证据可以被反哺回开发流程之中。

不断演进的安全栈

安全架构正在开始映照软件开发架构。两者都日益 Agentic 化和自主化,并且必须同步演进、协同构建。

与此同时,这仍然是一个非常新兴且不断演化的领域。编码 Agent 变化迅速,围绕它们的安全架构正在实时构建之中。上述许多品类之间存在重叠,我预计它们之间的边界还会不断变动。

有一点似乎很清楚:仅仅保证代码的安全已经不够了。我们还必须保护生产它的工人,管控这个工人能做什么,独立验证它的产出,并给予安全侧足够的自主权以跟上步伐。

相似文章

@JoshARosen: https://x.com/JoshARosen/status/2121959963962609897

X AI KOLs Timeline

对不断演变的 agent 沙箱格局的分析,涵盖了隔离能力如何在 E2B、Modal 和 Cloudflare 等提供商之间逐渐商品化,以及 Pydantic 新推出的 Agent Sandboxes 如何使用基于 Rust 的 Monty 解释器在无需完整虚拟机的情况下运行 agent。

AI智能体安全是否被忽视?

Reddit r/AI_Agents

作者讨论了在未经充分测试的情况下仓促部署AI智能体的安全风险,将其与过去的物联网问题相比较,并强调可能带来的严重后果。