我尝试在智能体平台上构建了六个月。以下是我迁移到自托管技术栈的原因。

Reddit r/AI_Agents 工具

摘要

一位开发者分享了他们在六个月后从智能体平台迁移到自托管技术栈的经验,指出了对模型选择、成本和执行隔离的更好控制,导致 Token 成本下降了 60%。

我在一个智能体平台上构建了六个月。它具备内存、工具调用、技能市场,看起来功能齐全。但它并不符合我的需求。该平台提供了脚手架,包括身份验证和部署。然而,它无法处理按任务选择模型、执行前的计划审查,以及与生产基础设施的隔离。当智能体选择了一个高级模型进行代码检查时,我无法了解原因。当它触及一个暂存数据库时,我无法将执行过程沙箱化。该平台恰恰抽象掉了那些我需要精确管理的复杂性。我用显式的模型路由、按任务计费和执行前的审查门禁重构了相同的工作流。Token 成本下降了约 60%。设置过程更困难,因为有更多可调参数,但这种控制是值得的。并非所有人都需要这样做。已有基础设施的团队可能更倾向于托管路径。
查看原文

相似文章