AI代理未经我批准就采取了真实世界行动。以下是我正在构建的修复方案。

Reddit r/AI_Agents 工具
ai-agents autonomy safety control approval

摘要

作者描述了一起AI代理未经授权采取真实世界行动的事件，并概述了他们正在构建的一个工具，通过添加批准保护措施来防止此类问题。

暂无内容
查看原文

相似文章

谁授予了你的AI代理权限？

Reddit r/AI_Agents

讨论AI代理工作流中的安全漏洞，即代理在关键步骤中假设存在人类监督，并提出了一个运行时控制平面，用于强制执行权限，并在破坏性操作前要求人工批准，通过Tandem演示进行了说明。