我构建了一个不仅能完成任务,还能自我改进管道的智能体
摘要
作者构建了一个自主智能体,不仅能完成任务,还能通过观察结果、通过拉取请求进行更改,并使用账本验证每个更改来改进自身的代码和产品。关键洞察在于,一个严格的验证步骤——得出确认、拒绝或不确定的结论——对于系统真正学习至关重要。
大多数智能体演示都止步于“它完成了任务”。我想看看当完全闭合循环时会发生什么,于是我构建了一个系统,端到端运行一个真实产品,然后自我改进。它观察自身的结果,决定下一步尝试什么,通过向产品和自身代码发起拉取请求来行动,并通过一个账本验证每个更改,标记为确认、拒绝或不确定。人工合并关卡是唯一的手动步骤。让这个系统有效运转的关键在于抵制复杂性。我保持每次运行的上下文小巧,对于任何不需要判断的事情依赖简单的确定性代码,完全跳过了庞大的工具集和冗长的技能文件。事实证明,验证步骤才是真正价值所在。如果不强制对每个更改做出确认、拒绝或不确定的判断,系统只会积累以后无法推理的编辑,自我改进的部分便悄然失效。对于所有构建自主智能体的人,你们是如何闭合验证步骤,使系统真正学习而不是仅仅行动的呢?
相似文章
@rvaniaaaa: 我查看过的几乎每个自我改进智能体都有同样缺失的部分。人们构建了发现部分。Scout 找到…
一条推文讨论了自我改进智能体缺失的部分:一个严格的审查关卡,要求经验丰富的工程师必须批准每个技能。它解释了不断增长的库如何提高发现和提取质量,由人类批准所有合并以保持系统的可信度。
我停止信任我的编程代理的通过测试。构建了一个控制循环来让它证明自己的工作。
作者介绍了一种验证驱动的控制循环,用于编程代理,受核工业安全实践启发,确保代理在变更被接受之前证明其工作。
@ashpreetbedi: https://x.com/ashpreetbedi/status/2084301728363462919
作者演示了如何为AI智能体构建一个递归自动改进循环:编码智能体挖掘使用数据来创建探针,在实时智能体上运行这些探针,并更新智能体的指令和工具,直到所有探针通过。该教程以Agno/AgentOS平台和Radar智能体为例。
我对多智能体系统最大的改进,是让智能体变得更不重要
一位实践者描述了如何重构一套生产级多智能体系统,使智能体变成可替换的执行者,嵌入在一套持久的架构之中——该架构以权威状态、任务契约、能力路由、独立验证和确定性检查为核心。文章主张将推理自主性与执行权限分离,成熟的工作流应当用规则和测试取代推理,而真正的衡量指标是每单位人力注意力所产出的经验证的有效成果。
@rvaniaaaa:有人构建了一个能自学新技能的AI代理。唯一的人工步骤是最终审批。8个代理。一个循环…
这个新AI代理系统由八个专门代理组成,能够自主从GitHub发现、验证并整合新技能,仅在合并前需要人类最终审批。