聊天优先的AI工具在需要代理自主工作时就会崩溃
摘要
作者认为聊天优先的AI工具不足以构建自主代理工作流,并描述了替代原语,如定时触发器和子代理委派,主张从“带着工具聊天”转向“使用LLMs的自主流程”。
过去8个月我一直在构建代理工作流,但不断撞上现有工具的同一堵墙:它们都假设有一个人类坐在那里,输入提示,等待响应。这种模式对于一次性问题还行。但一旦你需要一个代理每小时处理一个研究队列,或者按计划将结果同步到知识库,或者将子任务委派给专家代理并取回结果……聊天范式就彻底崩溃了。具体来说是这样的。假设我想要一个“新闻代理”,它在早上6点触发,抓取我关心的主题,编写一份结构化摘要,然后推送到仪表盘。使用基于聊天的工具,我需要醒来,打开应用,输入提示,然后等待。那不是自动化,那只是一个花哨的文本框。所以我开始围绕一组不同的原语进行构建:
- Cron触发器,按计划触发代理,无需任何人工参与
- 事件触发器,对系统状态变化做出反应(看板上的卡片移动、webhook触发等)
- 子代理委派,其中父代理将范围明确的任务交给专家代理,取回结果,然后继续。保持上下文窗口精简,而不是把所有东西塞进一个巨型提示
- 技能在运行时加载,而不是将所有指令前置加载到系统提示中。代理决定它需要什么并请求它
最让我惊讶的是交互模型对架构的决定性作用。一旦我不再思考“带着工具聊天”,而是开始思考“碰巧使用LLMs的自主流程”,整个设计就打开了。代理变得更像有职位描述的工作者,而不是等待指令的助手。
我很好奇这里其他人为了代理自主性(超越聊天)都在做些什么。你们是在拼接cron作业+LangChain吗?运行自定义编排器?还是聊天循环实际上对你们的用例有效,而我想多了?我把完整的架构和权衡写成了更长的文章,链接会在下面的评论中提供。
相似文章
大多数AI智能体失败的原因在于人们像构建聊天机器人那样构建它们
许多AI智能体实现失败是因为它们把智能体当作聊天机器人来对待,依赖聊天历史记录来管理状态,而非使用确定性的数据结构。文章提倡将推理(LLM)、动作(工具)、工作流进度(状态机)和外部触发(网络钩子)分开,以构建可靠的业务智能体。
我们是否正在以人们意识不到的速度超越“Chatbot”时代?
讨论了从基于聊天机器人的AI向能够执行复杂工作流的自主智能体的转变,暗示了重大的用户体验转变。
停止构建AI智能体。
作者认为,大多数要求构建AI智能体的创始人实际上只需要简单的自动化流程,并辅以最少的LLM集成,理由包括生产环境故障、合规障碍,以及更简单工作流带来的更高投资回报率。文章提供了一个实用的决策框架,帮助开发者和创始人优先考虑可靠的自动化,而非复杂且不可预测的智能体。
@chamath: https://x.com/chamath/status/2054646394867364143
关于AI代理兴起的详细入门,包括统计数据、故障模式以及五层框架,重点介绍了从聊天机器人到自主任务导向型AI的转变。
我认为AI代理的讨论即将超越框架层面
作者认为构建AI代理不再是难点;真正的挑战在于部署、测试、版本控制和运维管理,这些在生态系统中仍然支离破碎。