我们构建了一个开源授权网关，因为我们的AI代理一直失控
摘要
团队发布了一个开源授权网关，以防止AI代理出现意外或恶意行为。
暂无内容
相似文章
我构建了一个兼容OpenAI的AI智能体防火墙。来试试攻破它。
Arc Gate 是一个兼容OpenAI的防火墙，可跨整个AI智能体会话跟踪权限，并在工具调用执行前从允许升级到阻止。它提供了在线演示，并在GitHub上开源。
我为AI代理开启了一个看似无害的权限，结果却变成了所有人的后门
一个AI运维代理被赋予开启拉取请求的权限，由于API令牌权限问题，无意中为未经授权的用户创建了一个后门，促使作者分享了一种安全缓解措施。
招募开发者：你能否攻破 AI 安全闸门？
MGnarf 是一个开源执行安全闸门，用于防止 AI 智能体自我批准受保护操作，并配套 MGnarfTest 对抗性测试项目；作者正在招募开发者和安全研究人员，独立挑战并尝试攻破该系统。
我们尚未讨论的 AI 代理中的显性安全漏洞：输出即权威的那一刻
本文强调了 AI 代理中的一项关键安全漏洞，即输出执行绕过了适当的权限检查，主张在授予受信任的上下文或密钥之前设置“外部准入”门禁。
开源用于AI代理的Shell级别安全层
开源一个Shell级别的控制层，该层阻止危险命令、暴露虚假秘密并强制执行运行时策略，使AI代理在开发环境中更安全、更确定。