我们把AI当作魔术而不是软件对待,这让AI智能体变得难以维护。
摘要
文章认为,当前的AI智能体框架将智能体视为黑箱,导致其难以维护,并提出了一种基于Git的原生架构(Lyzr GitAgent、OpenGAP),在该架构中,智能体逻辑以平面文件的形式进行版本控制,并通过拉取请求实现回滚和可审计性。
最近我花了很多时间尝试多智能体工作流,表面上看,这些能力非常惊人。你将一个LLM与几个工具绑定,调整提示循环,然后观察它实时解决问题。但一旦你试图越过初始原型阶段,整个幻象就会崩塌。根本问题在于当前框架处理智能体架构的方式。它们将提示状态、记忆和行为变化视为完全短暂的,或者将它们隐藏在封闭的云数据库中。如果智能体在生产环境中失败,或者其行为根据用户反馈随时间漂移,要弄清楚*为什么*它会做出某个具体决定几乎是不可能的。没有审计追踪。如果系统性能下降,你无法轻松将其回滚到昨天的状态。这打破了我们在现代软件工程中建立的每一项可预测性的基本规则。这让我意识到,我们正试图为AI管理发明全新的黑箱范式,而几十年来我们早已有了完美的版本控制解决方案。出于纯粹的挫败感,我开始尝试一种名为Git-Native架构的开源概念,特别关注一个叫Lyzr GitAgent的项目和OpenGAP协议。逻辑上的转变很简单,但解决了核心问题:不再将智能体的记忆或提示更新保存到不透明的数据库中,而是将所有内容以平面文件的形式保存到标准的Git仓库中。当智能体调整行为或学习新工作流时,它不会在后台悄悄改变。它会创建一个新分支并打开一个Pull Request。突然间,你就有了智能体逻辑的有形历史。你可以在其自我改进步骤部署之前进行审查和批准。如果出现了幻觉,你只需运行标准的`git revert`,并将整个层直接连接到正常的CI/CD管道中。这迫使系统表现得像可预测、可管理的软件。当前AI的瓶颈不在于模型进化不够快,而在于我们围绕它们的工程实践完全混乱。如果我们把每次部署都当作无法追踪的魔术,就无法扩展生态系统。
相似文章
AI代理是否重新引入了软件工程已解决的问题?
本文探讨了AI代理工作流如何重新引入软件工程在可重复性、可审计性和状态管理方面的挑战,这些挑战此前已通过版本控制、CI/CD和静态代码实践得以解决,同时提到了GitHub的Agentic Workflows和git原生方法等新兴解决方案。
AI代理重现了“rockstar developer”问题,只是速度更快
该文章将AI代理与“rockstar developers”进行对比,他们编写巧妙但难以维护的代码,指出AI代理缺乏对自己行为的记忆。它建议使用可见的约定,如AGENTS.md、ADRs和测试,以使AI代理生成的代码对团队来说易于理解。
版本控制如何为智能体浪潮进化
本文探讨了 Git 和版本控制系统如何适应人工智能智能体成为主要代码生产者的趋势,主张将会话日志与代码一起存储,并转向去中心化托管,以实现可扩展、有弹性的协作。
如何为你的AI代理进行版本控制和回滚?git让我失望,我感觉自己遗漏了什么。
一位开发者分享了使用git进行AI代理版本控制和回滚的困境,强调了提示词编辑导致的静默行为变化以及缺乏回归信号的问题。他们向社区寻求更好的工作流程。
我认为AI代理的讨论即将超越框架层面
作者认为构建AI代理不再是难点;真正的挑战在于部署、测试、版本控制和运维管理,这些在生态系统中仍然支离破碎。