我的团队为AI编码代理打造了一个Jiminy Cricket
摘要
Fence是一个开源工具,可防止AI编码代理删除文件或泄露API密钥,目前已兼容Claude Code。
大家好,我是一位创始人,拥有一个非常有才华和创造力的工程团队。几周前,我告诉团队他们可以将每周20%的时间用于业余项目。这些项目应该解决我们以及我们的用户可能也会遇到的问题。他们做出了这个令人难以置信的开源项目,我们免费发布它,没有任何注册门槛或试用期。第一个项目名为Fence。它可以防止你的代理删除文件或泄露密钥。它就像Jiminy Cricket(你们年轻人可能不知道这个)但针对AI编码代理。Fence会读取命令(及其意图),而不仅仅是字符串。它已经完全兼容Claude Code,并且如果大家喜欢使用,我们考虑未来扩展到其他IDE。如果有人愿意贡献,欢迎在这里留言!我和团队会随时解答任何问题!!我会在评论区留下GitHub仓库链接🤘
相似文章
我构建了一个兼容OpenAI的AI智能体防火墙。来试试攻破它。
Arc Gate 是一个兼容OpenAI的防火墙,可跨整个AI智能体会话跟踪权限,并在工具调用执行前从允许升级到阻止。它提供了在线演示,并在GitHub上开源。
AI 代理依然拉胯,于是我自己造了一个
作者构建了一款自定义 AI 代理应用,封装了 Claude Code 并即将支持 Codex,侧重于可组合的工作流,并期待社区反馈。
我构建了一个开源中间件,防止AI智能体超出花费/策略限制——v0.2现已发布
ActionFence 是一个开源中间件,可为 AI 智能体和 MCP 服务器强制执行花费上限、策略限制和安全检查。v0.2 版本新增了滚动窗口上限、断路器以及模式漂移检测等功能。
我们构建了一个开源授权网关,因为我们的AI代理一直失控
团队发布了一个开源授权网关,以防止AI代理出现意外或恶意行为。
有没有什么工具能清楚检查AI编码代理是否只执行了我指定的任务?
作者描述了AI编码代理在批准的任务之外进行未经授权更改的问题,并介绍了他们的本地工具Ripple,该工具可以检测此类越界行为,并建议继续、修复或人工审查等操作。