我的编程智能体能写代码。为什么我还得当它的项目经理?

Reddit r/AI_Agents 工具

摘要

一位开发者反思了监督编程智能体所带来的额外负担,并分享了一个小型开源实验:将任务完成情况的检查与执行任务的智能体分离,从而让未完成的任务自动退回重做,而无需手动输入“继续”提示。

现在,编程智能体让我烦恼的甚至已经不是犯错了,而是我仍然得花那么多精力去管理它。我可以把任务说明白,看着智能体写出一大堆代码,最后却还是得由我来发现它漏做了什么。或者发现它做到一半就停了。又或者,它所谓的“完成”,显然只是“我暂时说完了”。我也见过其他人描述同样的情况。有位开发者已经有了一份实实在在的分步计划,但他们的智能体还是不断把工作拆成更小的部分,然后停下来,非要等他们输入“继续”才接着做。不需要新的指令,也没有什么决策要做。就是……继续做我已经交代过的事。没错,我当然知道重要的代码需要我来审查。但这并不是我真正抱怨的地方。我烦的是,必须不断替智能体记着最初的任务,还得判断它到底有没有真正完成。正因为如此,我最近一直在折腾一个小型开源实验。思路是把完成情况的检查与执行工作的智能体分开,让它自己发一句“完成了”还不算数。有个人拿一个小任务试了试。Codex 在创建要求的文件之前就停了。检查发现了这个问题,把任务退回去,Codex 第二次尝试才完成。没有人需要输入“继续”。显然,一次小测试说明不了太多。检查也可能漏掉要求,而且目前整个实验只能处理很有限的一类任务。不过,这让我开始想,也许知道自己什么时候真正做完了,和擅长写代码,是两个不同的问题。我很好奇,大家在更大的项目中使用智能体时,情况是怎样的。你们有没有真的遇到过这样的情况:你不在的时候,智能体完成了一项规模不小的任务,而你无需回来输入“继续”,也不用指出它明显漏掉了什么?我很想听听哪些做法管用,或者某次具体是怎么没能做到的。
查看原文

相似文章

编码代理是否带来了新的审查问题?

Reddit r/AI_Agents

本文讨论了虽然编码代理能够有效生成代码,但它们却在审查和信任变更方面引入了新的瓶颈,质疑代理是减少了审查工作量还是转移了审查工作量。