在纽约AI Agents大会上待了两天。大多数公司押注了错误的护城河。
摘要
作者反思了纽约AI Agents大会,认为许多初创公司专注于可观测性和数据基底等临时护城河,而非工程商品化时代中持久的防御性。
一位演讲者(一位VC)表示,他评估AI原生初创公司的指标是每位工程师的年经常性收入(ARR),并且这个数字应该不断上升。在AI Agents大会上,几乎每场演讲和每个展位都在兜售解决今年代理投入生产时出现的问题的方案。可观测性、治理、监督代理、数据基底,“总得有人照看这些机器人。”但真正能在几年后仍然存在的是什么?什么是有防御性的、持久的?传统的SaaS推销很简单:我们将昂贵的工程投资和领域专业知识打包成一个工具。你为工具付费并产生成果,但软件公司很少真正与这些成果创造的实际价值挂钩。这种情况正在从两端同时瓦解。在即将到来的“直接来自想象”时代,工程劳动力正趋近于免费。最显著的趋势之一是公司从吹嘘工程团队规模转向吹嘘每位工程师能产生多少ARR。如果你有领域知识,你可以用几天或几周时间“氛围编码”出展位上销售的大部分内容。旧软件模式实际上基于利用率不足;最赚钱的SaaS公司通常是那些客户未充分利用其产品的公司(客户支付固定价格,但供应商承担可变云成本)。定价正在转向“代币加成”。也许我们会看到软件收入达到2-4倍,因为成果更有价值;但利润率压缩,因为事务性智能(即运行驱动许多系统的LLM的成本)基本上是在代币成本与成果价值之间套利。所以,会场上的每个人都在隐含地押注新的护城河来取代旧的护城河。我不太相信这些护城河能持久……最流行的押注是编码化的领域专业知识(例如,法律AI平台Harvey的销售工程师实际上是律师)。我认为这在*现在*有效,因为我们仍处于“哇,这项技术像魔法一样工作”的阶段。我不太相信这实际上是持久的。原因:提示架构是文本。它是可移植的。其背后的专业知识通常是丰富的(例如,美国有超过一百万名律师)。这个类别应有的正义归宿应该是提示架构的开放市场和/或众包最佳实践,而不是商业机密。试图建立封闭提示护城河的公司将输给那些迭代更快的开放公司(这恰恰印证了软件工程本身正迅速商品化为代理工程和日益增长的现成GitHub仓库)。许多人正在追求数据基底;简而言之,这类似于早期网络时代,每个人都争相将遗留数据开放给基于动态标准的Web UI。代理的数据需求将是这些Web应用的100-1000倍,因此我们需要工具来连接它们、治理它们并遵守监管义务,这是合理的。新进入者更进一步,将数据库、管道、Slack线程和工单连接到代理可以推理的上下文图中。正如我上面提到的,这一切仍然显得神奇。连接一个数据库,观察代理爬取模式并生成聊天界面和易于更改的仪表板。但剥去魔法外衣,这些大多是基于LLM的提示架构加上数据摄取层。一旦数据访问标准成熟(MCP已经在做这件事),并且提示架构开源(以及这些智慧越来越多地预训练到LLM本身),那种魔法就不再是专有的。你将需要防御你自己客户内部工程团队构建的相同架构,或者客观更优的开源版本。可观测性老牌公司:这些公司可能会做得更好,但只有在像Stripe那样信任是首要价值的情况下(到了这个地步,谁不信任Stripe?)。幸存下来的公司可能会与审计和合规功能融合,而不是保持纯粹的可观测性。这就是为什么我不断回到一个看似关键的套利点:信任。这在受监管的行业尤为重要,但这让我想起了一句古老的(尽管现在已过时得可笑)格言:“没有人因为选择IBM而被解雇。”如果你的竞争对手可以在一个周末被“氛围编码”出来,而你的客户是一家银行,他们为什么要付给你50倍的价格?这不是工程问题,甚至也不是专业知识问题。数据管道将商品化,所以也不可能是那个……而是因为你将风险转移到了能够真正定价和防御风险的第三方:SOC2、在法庭和国会作证的具名CEO、接电话的法律团队、为承保人提供的赔偿包装。也许这意味着事物实际上被商品化,变成了一种金融化包装,而不是包装研发的方式(金融科技初创公司重新回到前台?!)。我真正会押注的未来版本是:一个商品化基底(LLM加开放提示架构加标准化数据访问),上面覆盖一层受监管的保险公司,用于定价合规驱动行业中代理失败的风险。中间层(提示架构即产品供应商)非常容易受到利润率挤压。会场上的大多数人都在试图建立那个中间层。
相似文章
来自纽约 AI Agent 大会的 7 条现场笔记
纽约 AI Agent 大会的关键要点突显了代理开发中新兴的最佳实践,包括对受控环境、改进的安全性和更好的 API 基础设施的需求。这些笔记表明,虽然能力很重要,但开发者赋能和结构化的工作流程目前对于 AI 代理的成功部署更为关键。
经过数月的智能体构建,我改变了关于什么最重要的看法。
作者反思了将AI智能体从原型推向生产环境的挑战,得出结论:可靠的编排和安全保护机制比模型的渐进改进更为关键。
你的AI战略是在烧钱还是创造资本?
本文批判了当前企业中的AI狂热,由于Token滥用等低效使用方式,飙升的成本往往超过投资回报率。文章倡导同时关注组织流畅性和算法成本降低(例如观察掩码),从而将AI从资本消耗者转变为价值创造者。
Moats Need Models(6分钟阅读)
本文认为,AI的可防御性来自于拥有完整的反馈循环——基于专有数据进行后训练的自定义模型,针对特定工作流进行调整,并由用户定义的标准进行评估——而不是从可能随时更改条款的供应商那里租用前沿API。它强调模型定制是实现差异化和利润控制的关键。
“OpenClaw vs AI Agents — 这些工具真的在帮助创始人,还是炒作失控了?”
文章探讨了当前围绕AI代理和OpenClaw式工作流对创始人的炒作,质疑这些工具是提供了真正的杠杆效应,还是导致了过度依赖和工作流不稳定。