智能体需要控制流,而非更多提示词
摘要
文章认为,可靠的 AI 智能体需要在软件中具备确定性的控制流和程序化验证机制,而不能仅仅依赖复杂的提示词链。
暂无内容
查看缓存全文
缓存时间: 2026/05/08 08:26
# 智能体需要控制流,而非更多的提示词
来源:https://bsuh.bearblog.dev/agents-need-control-flow/
## brian 的思考 (https://bsuh.bearblog.dev/) 主页 (https://bsuh.bearblog.dev/) 博客 (https://bsuh.bearblog.dev/blog/)
*2026年5月7日*
**核心观点:处理复杂任务的高可靠性智能体,需要的是编码在软件中的确定性控制流,而非日益复杂的提示词链。**
如果你曾不得不使用 **MANDATORY**(必须)或 **DO NOT SKIP**(切勿跳过)这类指令,说明你已经触及了提示词工程的天花板。
想象一种编程语言,其中的语句仅仅是**建议**,而函数在**幻觉**的状态下返回“成功”。在这种情况下,逻辑推理变得不可能;随着系统复杂度的增加,其可靠性将彻底崩溃。
软件的可扩展性源于递归式组合性:系统由库、模块和函数构建而成。其底层本质皆是代码。代码展现出可预测的行为,从而支持局部逻辑推理。而提示词链缺乏这一特性。尽管提示词在狭窄的任务中很有用,但它们本质上是非确定性的、定义模糊的,且难以验证。
要实现可靠性,必须将逻辑从自然语言描述转移到运行时环境中。我们需要确定性的支撑结构:明确的状态转换和验证检查点,将大语言模型(LLM)视为一个组件,而非整个系统。
然而,确定性的编排仅仅是战斗的一半。在一个容易静默失败的系统中,一个缺乏激进错误检测机制的智能体,不过是快速得出错误结论的工具。如果没有程序化的验证机制,我们只剩下三种选择:
1. **保姆**:保留人工在环(human-in-the-loop),在错误扩散前进行捕获。
2. **审计员**:在运行结束后执行详尽的端到端验证。
3. **祈祷**:凭感觉接受输出结果。
相似文章
尝试让 agent loops 更少依赖提示,更具确定性
讨论使 AI agent loops 更少依赖提示、更具确定性的方法,旨在提高 agentic 系统的可靠性和可控性。
编程代理的胜负不在于提示词,而在于运行时基础设施
随着编程代理能力增强,瓶颈从模型质量转向支持长时间运行的基础设施,包括持久状态、权限、检查点、可观测性和成本控制。作者认为,最好的代理产品更像是运行时和工作流系统,而非仅仅改进提示界面。
AI是否应该更多地反问人类?
本文认为,AI代理不应只是顺从地执行任务,而应在任务模糊、矛盾或存在风险时主动质疑人类,从而从工具转变为真正的协作者。
@ghumare64: https://x.com/ghumare64/status/2052825541057626258
一个X帖子认为生产级AI代理需要运维支撑框架(运维手册、权限、日志、回滚、验证),而不仅仅是更好的提示词。作者引用了DevOps演进历程,指出提示词提供建议而运维手册提供控制,代理系统需要平台工程解决方案来实现权限、状态管理、验证、可观测性和回滚能力。
AI代理不仅仅需要更多的自主性,更需要关于何时停止的更好判断。
本文认为,AI代理需要更好的判断力来决定何时避免行动,特别是在数据不完整或结果不可逆的情况下。同时,受控的自主性对公司来说更值得信赖。