我构建了一个不仅能完成任务，还能自我改进管道的智能体

Reddit r/AI_Agents 工具
self-improving autonomous-agent pipeline verification pull-request

摘要

作者构建了一个自主智能体，不仅能完成任务，还能通过观察结果、通过拉取请求进行更改，并使用账本验证每个更改来改进自身的代码和产品。关键洞察在于，一个严格的验证步骤——得出确认、拒绝或不确定的结论——对于系统真正学习至关重要。

大多数智能体演示都止步于“它完成了任务”。我想看看当完全闭合循环时会发生什么，于是我构建了一个系统，端到端运行一个真实产品，然后自我改进。它观察自身的结果，决定下一步尝试什么，通过向产品和自身代码发起拉取请求来行动，并通过一个账本验证每个更改，标记为确认、拒绝或不确定。人工合并关卡是唯一的手动步骤。让这个系统有效运转的关键在于抵制复杂性。我保持每次运行的上下文小巧，对于任何不需要判断的事情依赖简单的确定性代码，完全跳过了庞大的工具集和冗长的技能文件。事实证明，验证步骤才是真正价值所在。如果不强制对每个更改做出确认、拒绝或不确定的判断，系统只会积累以后无法推理的编辑，自我改进的部分便悄然失效。对于所有构建自主智能体的人，你们是如何闭合验证步骤，使系统真正学习而不是仅仅行动的呢？
查看原文

相似文章