为什么每个自主代理最终都需要一个执行防火墙。
摘要
一篇观点文章，认为随着自主代理获得更多权限，行业忽视了保护其执行行为，并提出了需要执行防火墙来实时监控操作。
随着代理变得更为自主，我们不断添加权限。文件系统。Git。Docker。SSH。数据库。生产API。然而，几乎没有人保护执行。我们验证提示。我们基准测试模型。我们微调。但我们很少在代理行动时检查行为。这感觉是倒退的。
相似文章
AI 代理最危险的部分始于其获得执行权限之时
本文强调了 AI 代理获得基础设施执行权限所带来的关键风险，认为如果没有外部准入层来防止灾难性故障，现有的安全护栏是不够的。
谁授予了你的AI代理权限？
讨论AI代理工作流中的安全漏洞，即代理在关键步骤中假设存在人类监督，并提出了一个运行时控制平面，用于强制执行权限，并在破坏性操作前要求人工批准，通过Tandem演示进行了说明。
AI安全争论聚焦于错误的边界
本文认为，AI安全辩论的方向有误，其关注点在于模型对齐和内部控制，而非关键的边界：对智能体执行的外部授权权限。文章警告称，能够自行授权高影响行动（如部署代码、转移资金）的系统构成了基本风险，日志记录和监控无法缓解这种风险。
为什么AI代理没有确定性防火墙？
一位开发者用Rust为AI代理构建了一个确定性防火墙，运行时间低于5毫秒，使用计划、MCP列表和污点追踪来强制执行安全，避免幻觉和延迟问题。
我认为AI代理将需要一个操作层
作者认为，随着AI代理变得越来越自主，需要一个治理层来实现控制、可观测性和可审计性，并介绍了Bendex Arc作为解决方案，其组件包括Arc Gate、Arc Replay、Arc Approve和Arc Memory。