我认为大多数“AI agent”项目失败是因为人们跳过了乏味的权限层

我一直在公开构建一个AI首席参谋风格的产品，我反复强调的一点是：模型不是产品。权限系统才是。很多AI agent演示看起来令人印象深刻，因为agent能“做事情”：读取邮件、总结Slack、创建任务、草拟回复、编辑文件、更新CRM记录、安排会议。挺酷的。但可怕的部分不在于agent能否调用工具。可怕的部分在于它是否应该调用。 以下是我目前在脑海中使用的权限架构： 1. **只读层** Agent可以检查上下文，但不能修改任何内容。 示例：阅读文档、总结最近消息、分析CRM备注、检查项目状态 2. **草稿层** Agent可以准备一个操作，但不能执行它。 示例：草拟邮件、创建建议任务列表、准备发票跟进、生成会议议程 3. **审批层** Agent展示它想要做什么、为什么以及用到了哪些数据。我喜欢这个格式： 4. **有限执行层** Agent可以在约束条件下执行低风险任务。 示例：给线索标记为“需要回复”、将任务移至“等待中”、创建草稿日历块、更新内部备注 5. **审计层** 每个操作都会被记录。不仅仅是“Agent发送了邮件”。还包括：什么触发了它、使用了什么上下文、调用了什么工具、改变了什么、用户是否批准、如果可能的话的回滚路径。 我目前的规则：如果Agent触碰到外部、昂贵、面向客户或难以撤销的东西，就需要一个审批关卡。 这让产品在演示中不那么“神奇”，但在实际业务中更实用。好奇其他人是怎么处理这个问题的：你们是让Agent直接执行操作，还是让它们保持在草稿/推荐模式？