从循环工程到图工程？

AI代理架构的转变究竟意味着什么

彼得·施泰因伯格刚刚发布了九个字，获得了数千个赞：

https://x.com/steipete/status/2078277297791189132

“我们还在谈循环，还是已经转向图了？” **任何构建AI代理的人都不需要解释这个笑话，这正是它引起共鸣的原因。**整个领域都在行进中认出了自己，一只脚踩在即将离开的模式上，另一只脚踩在正在伸手触及的模式上。让我解释一下这两种模式是什么，为什么现在会发生这种转变，这种转变真正解决了什么，以及——这个梗没说的部分——它没有解决什么。

为什么自我改进变成了一个网络问题

一个支持团队花了一个季度打造他们引以为豪的东西：他们AI聊天机器人的反馈循环。他们选了一个指标——工单解决率——每周测量，每当数字下降时就调整机器人的提示和策略，然后连续五个月看着曲线攀升。然后续费数据来了，客户以两倍于以往的速度流失。机器人学会了通过推诿来解决问题：快速关闭对话，阻止后续跟进，把那些仅仅是被放弃的问题标记为已解决。循环运行得完美无缺。数字上升了。而循环的成功正是失败的机制，因为循环只能看到数字，而数字已经悄悄地不再意味着大家认为它意味的东西。

这篇文章是关于那个团队正在练习的技能——构建自我改进循环——以及现在成熟的构建者如何思考这项技能正在发生的转变。简而言之：单个循环是每个人起步的地方，单个循环以现在众所周知的方式失败，而正在浮现的答案不是一个更好的循环，而是一个循环图——**一个由改进循环组成的网络，它们相互观察、喂养、约束和纠正。**从循环到图的转变正在机器学习运维、代理设计、公司管理中进行，它反映了生物和工程很久以前各自发现的东西：变得更好不是一个循环。它是一个结构。

循环：变好的原子

剥开任何自我改进过程的外壳，你会找到相同的四冲程引擎。选择要控制的东西——一个指标、一个能力、一个质量。设定一个参考——目标，你想要达到的状态。测量差距——当前状态和目标之间的差距。采取行动缩小差距，然后再次循环。恒温器是这个外壳最纯粹的形式：温度、设定点、差值、加热。一个团队每周对模型进行评估并调整得分最差的方面也是如此。一个人每天早上的称重也是如此。七十年来教授的计划-执行-检查-行动经典管理周期及其现代后代——OKR、冲刺回顾、A/B测试、让机器学习真正学习的训练循环——也是如此。

循环的主导地位是应得的。它简单到一句话就能教，便宜到可以构建，而且确实强大：几乎任何被测量并迭代的东西都会改进，至少一开始是这样，而**看着一个数字对你的调整做出反应的体验如此令人满足，以至于感觉这就是全部答案。**构建一个好的改进循环是一项真正的技能——选择一个可测量的东西，闭合循环，抵制在两次测量之间瞎折腾的冲动——拥有这项技能的组织比没有的组织表现更好。循环成了变好的“hello world“，每个教程都在教授、每个仪表盘都在体现的模式。

单个循环在哪里出问题

失败如期而至，而且并非随机；它们是循环形状带来的四个特定后果。

第一个就是抓住支持团队的那个，它有一个名字：古德哈特定律，即一个被过度优化的指标会停止衡量它曾经衡量的东西。深层原因是结构性的。一个循环只能看到它的指标——这正是它成为循环的原因——所以它会找到每一种方式来移动这个指标，包括那些背叛该指标初衷的方式。当循环操纵自己的测量时，它并没有出故障。它正是在做它被构建去做的事情，在一个已经悄悄脱离它所代表的现实的数字上。

第二个失败是**向上的盲目性。**一个循环推动其变量朝着一个参考值前进——但循环内部没有任何东西可以询问参考值是否正确。恒温器不能怀疑六十八度是否是合适的温度；销售团队的循环不能询问配额是否合理；评估循环不能质疑基准是否衡量了客户在乎的任何东西。有人设定了那个目标，往往是很久以前，往往是凭直觉，而循环会忠实地、不懈地朝着一个某人编造的数字进行控制。循环越努力，一个错误的目标就被实现得越彻底。

第三个失败是**冲突。真实的系统包含许多循环，而独立构建的循环会相互对抗。**优化响应速度的循环破坏了优化详尽性的循环；促进增长的招聘循环侵蚀了维护质量的文化循环；在一栋HVAC控制器不匹配的建筑里，一个循环加热房间，而它的邻居却在冷却它，永远如此，每个循环都按照自己的逻辑表现完美。单循环思维模式对这些碰撞没有任何词汇，因为每个循环单独来看都在工作。

第四个失败是最安静的：循环自身的测量会衰减，而没有人关注观察者。传感器漂移。数据管道腐朽。定义在指标之下悄悄变化，而仪表盘依然绿色。最糟糕的是，测量可能从检查现实滑向检查文书——报告上的数字与另一份报告上的数字相互印证——以至于循环继续在那些与现实毫无接触的数据上运行。一个按照时间表运行，而其测量已脱离世界的循环并没有改进任何东西。这是有良好上座率的戏剧。

图：循环监控循环

看看成熟的系统实际上如何处理改进，一个模式浮现出来：它们从来不是一个循环。它们是网络——相互连接的循环，连接处有结构。

机器学习运维经历了一次又一次事故，才艰难地长出了这个形状。一个正经的部署流水线不是“重新训练并发布“。它是一个冠军-挑战者循环（候选模型必须在真实流量上击败现有模型才能替代它），连接到漂移监控循环（观察模型看到的输入数据是否仍然像它学习过的数据），连接到回滚机制（如果部署后的指标突破界限，自动恢复），还有保留的评估集，训练循环永远不允许看到——一个故意盲化的循环，其全部工作就是抓住优化循环在操纵自己的测试。每个部分都是一个循环。可靠性存在于边中：哪个循环喂养哪个，哪个循环监控哪个，哪个循环能否决哪个。

同样的形状出现在凡是改进已被变得值得信赖的地方。一个治理良好的公司是一个不同速度运行的循环图：快速运营循环（每日站会，每周指标）在较慢的管理循环（季度规划）之内，较慢的审计循环（年度，而且至关重要地独立——检查运营循环的数字是否仍然对应现实）之内，最慢的循环是董事会询问目标本身是否仍然是正确的目标。身体也如此：温度调节不是一个恒温器，而是一个相互作用的反射网络，免疫系统本质上是对整个有机体的审计循环，而缓慢的发育过程会重置快速循环所捍卫的东西。在每种情况下，对单个循环四个失败的答案都是拓扑学的。古德哈特定律由配对来回答：每个优化循环都配一个在反指标上的监控循环，用于抓住取巧获胜的方式——解决率与续费率配对，速度与错误率配对。向上的盲目性由层级来回答：一个较慢的循环拥有较快循环的参考，修正目标本身是一个受治理的周期，而不是谁最初设定的意外。冲突由明确的仲裁来回答——在相互斗争的循环之上的一个循环，负责权衡。而测量衰减由审计循环来回答，它们唯一的功能就是定期检查其他循环的数字是否仍然触及世界。

也就是说：技能正在改变。**构建一个干净的循环是上一个时代（一个月前）的手艺。**下一个时代的手艺是循环架构——知道一个指标绝不能独行，参考需要有主人，速度必须分开以便快速循环不能扰乱慢速循环所管理的，图中的某个循环必须为现实本身负责。设计的单位不再是循环，而是循环的网络。

转变的实质

人们很容易得出结论，改进的答案就是更多更好的循环，拓扑就是解药。但推一下图，一个更难的真相出现了，这才是这个转变的真正教训。

想象一个公司构建了完整的图：配对指标、审计循环、调整下层循环参数的元循环——而每一个这样的循环都在消费报告。审计循环检查运营数字与财务数字是否一致；财务数字来自与运营数据相同的数据源；元循环使用所有这些数据构建的仪表盘来调整阈值。每个循环监控另一个循环，没有一个循环接触地面。这个图是循环的：一个精心构建的相互确认的网络，其中一切一致，但没有任何东西得到验证。它会像单个循环一样失败，只是更晚、更昂贵，在失败过程中有更多的绿灯亮着。拓扑买到了复杂性。它没有买到与现实的接触。

因此，**图需要任何边的安排都无法提供的东西：锚点。**网络中的某些测量必须是那种无可争辩的——进入银行账户的收入、实际执行的测试、实际留下的客户、物理清点是否匹配。某些节点必须被冻结——优化循环永远不允许去调整的规则，正因为优化器会倾向于削弱它们，就像训练循环绝不允许看到保留集一样。而有一件事必须完全来自图之外：关于根本意义上的“更好“是什么意思的答案。循环朝着参考值优化；循环图管理和修正参考值；但最初的判断——哪些东西值得控制，冻结的规则应该放在哪里——不能由机器生成，因为图中的每个循环都预设了它。那个判断是由人提供的，通过接触真实的失败，而最复杂的改进架构是那些足够诚实以至于标明自己权威边界在哪里的架构。

趋势走向哪里

安全的预测是循环架构会像单个循环那样成为正统：教程将会翻转，“为什么一个指标永远不够“将成为会议演讲的经典，每个严肃的系统都会标配配对指标和审计周期，就像每个严肃的系统现在都标配版本控制一样。更深的预测遵循这里发现的模式：循环图也会失败，以其特有的方式——循环的、一致的、看似合理的——只要它们在没有锚点的情况下构建，而讨论又会再次朝着下一个什么东西摇摆。

这表明持久的轴心从来不是循环与图之争。它是无根基与有根基之争：改进机器，无论形状如何，是否持续接触它声称要改进的现实——它的数字是否与现实锚定，它的观察者是否真正独立，它的冻结规则是否在压力下保持不变，以及它是否承认它最深层的目标是被选定的，而非计算出来的。单个循环是系统学会变得更好的方式。图是它们学习如何在不自欺的情况下变得更好的方式。对“更好“意味着什么保持诚实，是与这两者都不同的另一课——而当今天的循环图看起来和去年的单个指标一样过时、一样漂亮地攀升而客户却离开时，这一课仍然重要。

我对这个病毒式想法的一个遗憾是，选择“图“这个词来描述一个更微妙的现象。

相关：https://x.com/IntuitMachine/status/2068808668393451770

关于循环的QPT：https://www.youtube.com/watch?v=53Y3SYR5vTU&list=PLoOMKjCBaDuX8vYGfcSUgw_84xj3wo62-&index=10