我们将一个智能体拆分为一个云规划器和一个本地编码器。以下是其成本:
摘要
一项实验比较了在AI智能体任务中使用云规划器与本地编码器与独立模型的表现,显示规划器-工作者设置将成本降低了2.7倍,但增加了时间并降低了成功率。
每个人都画同一个图表,一个智能模型规划,廉价模型执行工作。我们想看看在真实构建中这实际效果如何,所以我们用三种方式运行了一个任务。该任务是在一页上创建五个小型物理场景,一个固定摄像头,一行提示,每个场景一次自主运行,无手动修复。单独使用Sonnet 5.5:5个场景中的4个,9分钟,1.83美元。Sonnet 5.5规划,本地Qwen 3.8 27B编写代码:5个场景中的2个,85分钟,0.67美元。在RTX 3090上单独使用Qwen 3.8 27B:5个场景中的1个,26分钟,0美元。什么有效。规划器从未接触代码。它将任务分解成部分,并在它们之间约定名称以便组合,并向每个部分发送简短简报。这就是为什么账单降低了2.7倍,因为它输出了5.4K个令牌,而不是37.9K个。什么无效。本地模型是瓶颈。它更慢,所以运行耗时85分钟,并且它仍然比云模型单独运行时更少场景正确。而且每个设置都报告“完成,无错误”,尽管有些场景明显损坏,所以“智能体说它完成了”仍然不是一个可靠的信号。好奇其他人如何处理这个问题。如果你运行规划器/工作者设置,你如何检查工作者是否真的做对了?(我们构建了用于此的智能体Atomic Agent,开源。如果有人想要,链接在评论中。)
相似文章
我对同一项目测试了8个AI编程代理。结果:四分之一个可用于生产,总成本1.94美元。
对8个AI编程代理在构建VPS管理工具包上的基准测试发现,四个实现中只有一个可投入生产,总成本1.94美元,规划与代码成本比为1:28。
[后续] 单智能体还是多智能体?我用上个帖子中的 4 种配置运行了同一个构建任务
作者让四种智能体配置执行了相同的 Python 构建任务——Claude Code 单智能体、Codex CLI 单智能体、Paseo 主导者/工作者团队,以及 Atomic Agent Fusion 模式——并比较了速度、隐藏测试结果和 API 成本。单智能体速度快,且全部通过测试;而编排的主要优势在于通过本地工作模型降低成本,而非提升速度。
将我的智能体拆分为廉价路由模型和高级合成模型,费用降低了约75%
一位开发者将其AI智能体的LLM调用拆分为廉价的路由模型(GPT-OSS 120B)用于工具选择,以及高级模型(gpt-5.4)用于合成,成本降低了约78%,同时保持了输出质量。
在测试了本地大语言模型、OpenRouter 以及市面上所有的付费方案之后……我找到了成本效益最高的编程智能体配置方案。
该文章介绍了一种通过将Claude Code接入DeepSeek API来实现低成本AI编程代理的方案,该方案利用提示词缓存技术显著降低token消耗成本,同时保持高水平的推理能力。
一个使用前沿模型进行规划但在本地运行大部分token的代理(为我的双RTX 3090机器构建)
作者构建了一个个人AI代理,它使用前沿模型(Codex)进行高层次规划,同时在双RTX 3090系统上本地运行大部分token处理,支持长时间任务并具备确定性验证。该代理支持三个可互换的层级:规划器、本地和高级,并以开源仓库形式提供。