提示词不是边界:为什么编程代理迫切需要「变更预算」

Reddit r/AI_Agents 工具

摘要

AI编程代理经常做出超出请求范围的过度修改;作者提出了一种结构边界——「变更预算」——以防止代理工作流中的范围蔓延。

我们都有过这样的经历:你让一个代理为单个客户端添加带边界的重试逻辑,它却返回了一个涉及14个文件的差异。重试代码是有了,但还包含了依赖注入的改动、一个没人要求的新接口、以及对引导代码的修改——这些都不是请求的一部分。代理通过扩大变更范围来解决局部任务,直到问题消失。我们通常尝试通过向⁠AGENTS.md⁠添加更多规则、编写更严格的系统提示、或依赖“人在回路中”来解决这个问题。但一个疲惫的开发者在阅读一个40文件的AI生成的差异时,这并非一个控制平面。代码生成变得非常便宜,但审查仍然以人类的速度进行——而且AI代码往往比同事的代码更难审查。与其仅仅调整指令,我们需要一个硬性的结构边界:一个**变更预算**,在范围蔓延到达拉取请求之前就阻止它。我写了一篇完整的分析,阐述为什么我们需要为代理工作流设定明确的边界,以及如何防止小请求变成庞大且不可审查的编辑。(链接在评论区!)很想知道其他正在构建或使用代理的人:你们用什么策略来控制模型的边界?
查看原文

相似文章

编程代理的胜负不在于提示词,而在于运行时基础设施

Reddit r/AI_Agents

随着编程代理能力增强,瓶颈从模型质量转向支持长时间运行的基础设施,包括持久状态、权限、检查点、可观测性和成本控制。作者认为,最好的代理产品更像是运行时和工作流系统,而非仅仅改进提示界面。

你会给AI代理200美元的消费限额吗?

Reddit r/AI_Agents

探讨了给AI代理一个小额、受限制的预算(例如200美元)用于常规业务支出(如软件试用)的想法,并将其比作给初级员工一张有限额的公司卡。