提示词不是边界:为什么编程代理迫切需要「变更预算」
摘要
AI编程代理经常做出超出请求范围的过度修改;作者提出了一种结构边界——「变更预算」——以防止代理工作流中的范围蔓延。
我们都有过这样的经历:你让一个代理为单个客户端添加带边界的重试逻辑,它却返回了一个涉及14个文件的差异。重试代码是有了,但还包含了依赖注入的改动、一个没人要求的新接口、以及对引导代码的修改——这些都不是请求的一部分。代理通过扩大变更范围来解决局部任务,直到问题消失。我们通常尝试通过向AGENTS.md添加更多规则、编写更严格的系统提示、或依赖“人在回路中”来解决这个问题。但一个疲惫的开发者在阅读一个40文件的AI生成的差异时,这并非一个控制平面。代码生成变得非常便宜,但审查仍然以人类的速度进行——而且AI代码往往比同事的代码更难审查。与其仅仅调整指令,我们需要一个硬性的结构边界:一个**变更预算**,在范围蔓延到达拉取请求之前就阻止它。我写了一篇完整的分析,阐述为什么我们需要为代理工作流设定明确的边界,以及如何防止小请求变成庞大且不可审查的编辑。(链接在评论区!)很想知道其他正在构建或使用代理的人:你们用什么策略来控制模型的边界?
相似文章
AI 编码代理需要“先计划后编辑”的工作流程?征求反馈
一种为 AI 编码代理提出的工作流程,强调在代码编辑之前进行头脑风暴和执行边界约束,寻求社区对其实用性的反馈。
编程代理的胜负不在于提示词,而在于运行时基础设施
随着编程代理能力增强,瓶颈从模型质量转向支持长时间运行的基础设施,包括持久状态、权限、检查点、可观测性和成本控制。作者认为,最好的代理产品更像是运行时和工作流系统,而非仅仅改进提示界面。
你会给AI代理200美元的消费限额吗?
探讨了给AI代理一个小额、受限制的预算(例如200美元)用于常规业务支出(如软件试用)的想法,并将其比作给初级员工一张有限额的公司卡。
智能体需要控制流,而非更多提示词
文章认为,可靠的 AI 智能体需要在软件中具备确定性的控制流和程序化验证机制,而不能仅仅依赖复杂的提示词链。
有没有人也觉得AI代理需要一个支出控制层?
一位开发者讨论了AI代理需要支出控制层来管理预算、审批和审计日志,并向社区征求关于自托管与托管解决方案的意见。