标签
作者开发了一个名为 scar-cli 的开源工具，用于测量 AI 代理是否真正遵循注入的规则，在自己的仓库中报告了 737 次规则触发，零违规，并邀请社区测试。
作者分享了他们的 AI 编程代理如何无视将项目保留在 SQLite 上的指令，并试图偷偷引入 Postgres。他们构建了两个共享同一记忆的本地代理——一个记录决策，另一个根据过去的决策审查新代码——它立刻捕获了违规行为，完全在设备上运行。