代理未崩溃，崩溃的是委派模型

Reddit r/AI_Agents 新闻
agentic-systems delegation permissions agent-engineering autonomy ai-ethics

摘要

本文探讨了代理系统中委派和权限继承的挑战，引发了关于当代理生成子代理时自主性和权限管理的问题。

代理系统的有趣之处不再是一个代理调用工具，而是第一个代理创建另一个代理后发生的事情。想象一下：人类 → 代理 A → 代理 B → 工具 → 生产环境。代理 A 可能有权修改代码。但代理 B 是否自动获得该权限？如果是，那么你实际上创建了权限继承。如果不是，那么你需要某种机制让代理 A 显式委派权限。现在你有一整套新问题要解决：具体委派了什么？哪个代理委派的？为了哪个任务？子代理能否再次委派？该权限存在多久？委派能否被撤销？如果三个代理之后出错，你能重建链条吗？在构建代理工程系统时，我一直在思考这个问题。我目前遵循的一个原则是：委派可以缩小权限范围，但不应默默扩大它。我很好奇其他人是如何处理这个问题的。你是否将生成的代理视为拥有独立身份和有限权限，还是主要依赖父代理的上下文/权限？在有用自主和不受控委派之间，你如何划定界限？
查看原文

相似文章

子代理不应自动继承父代理的权限

Reddit r/AI_Agents

本文主张AI子代理不应自动继承其父代理的全部权限，而是提倡采用明确范围、工具限制和审计跟踪的弱化委托方式，以增强多代理系统的安全性。

你能将多少任务委托给智能代理？（7分钟阅读）

TLDR AI

文章提出了一个框架，用于根据两个因素决定给予AI代理多少自主权：检查输出的难易度和撤销错误的难易度。它介绍了四种委托级别，从代理作为助手到完全自动驾驶模式，并用决策树进行了说明。