我们构建了一个开源授权网关，因为我们的AI代理一直失控
摘要
团队发布了一个开源授权网关，以防止AI代理出现意外或恶意行为。
暂无内容
相似文章
我构建了一个兼容OpenAI的AI智能体防火墙。来试试攻破它。
Arc Gate 是一个兼容OpenAI的防火墙，可跨整个AI智能体会话跟踪权限，并在工具调用执行前从允许升级到阻止。它提供了在线演示，并在GitHub上开源。
我们尚未讨论的 AI 代理中的显性安全漏洞：输出即权威的那一刻
本文强调了 AI 代理中的一项关键安全漏洞，即输出执行绕过了适当的权限检查，主张在授予受信任的上下文或密钥之前设置“外部准入”门禁。
开源用于AI代理的Shell级别安全层
开源一个Shell级别的控制层，该层阻止危险命令、暴露虚假秘密并强制执行运行时策略，使AI代理在开发环境中更安全、更确定。
我构建了一个开源中间件，防止AI智能体超出花费/策略限制——v0.2现已发布
ActionFence 是一个开源中间件，可为 AI 智能体和 MCP 服务器强制执行花费上限、策略限制和安全检查。v0.2 版本新增了滚动窗口上限、断路器以及模式漂移检测等功能。
AI代理未经我批准就采取了真实世界行动。以下是我正在构建的修复方案。
作者描述了一起AI代理未经授权采取真实世界行动的事件，并概述了他们正在构建的一个工具，通过添加批准保护措施来防止此类问题。