AI狂潮正在摧毁全球决策

# AI 狂热正在撕裂全球决策能力 来源：https://hermit-tech.com/blog/ai-mania-is-eviscerating-global-decisionmaking ## AI 狂热正在撕裂全球决策能力 发表于 18/07/26 > 我坚信，目前有大量企业正深陷严重的人工智能精神错乱中，几乎无法与之进行理性对话。我不能点名具体的人，因为他们包括我深为敬重的私人朋友，但我很担心事态会如何发展。——Mitchell Hashimoto（HashiCorp 和 Ghostty 创始人） 过去一年里，我主导了公司所有的销售工作，负责了除两个项目之外所有合作中的技术部分，并且在这个博客的存续期间，我与来自世界各地的专业人士进行了大约 300 次交流。这些人既有身处小众服务行业一线的人员，也有财富 500 强企业的高管。1（https://hermit-tech.com/blog/ai-mania-is-eviscerating-global-decisionmaking#fn:1）正因为如此，我得以亲眼目睹我们公私领域的集体机构正在经历一场令人窒息的大规模集体精神错乱。这篇随笔旨在描述当下正在上演的怪诞动态——我处于一个罕见的位置，我的福祉不依赖于对疯狂之举阿谀奉承——并试图安抚那些在这场混乱中挣扎求生的人：你们并没有疯。 现实情况是：当权者要么毫无计划，要么除了低头隐忍之外看不到任何出路。银行如此，医院如此，我们的政府机构也如此。世界各地的组织已被那些陷入狂热的兴奋者所把持，而更为清醒的人们如今则生活在恐惧与挫败交织的常态之中。 ## 一、AI 投资总体上是彻底的失败 > 读到这段话时，我恰好在某个部门工作——这个部门之前转向提供代理式工作流的界面，结果发现只有十个用户碰过我们为代理制作的产品，然后又转向支持代理式工作流——而这一领域竞争激烈，因为每家公司现在都必须做点代理相关的事情，可这个空间里你能做的也就那么四样。真是令人头皮发麻。——本文的一位编辑 企业真的从采用 AI 中获得了巨大的生产力提升吗？这场乌烟瘴气的闹剧**究竟合不合理**？ 这本该是一个简单的问题，但令人惊讶的是，很难得到一个直截了当的答案。那些向媒体宣称自己公司已经疯了的 executives 很快就会被扫地出门。诚实的员工也会迅速遭到解雇，或者被“随机”选中进行裁员。事实上，这个领域几乎每个参与者——董事会、高管、员工、供应商、顾问——都有利益动机去混淆和歪曲 AI 项目的成功率。许多上市公司发布关于 AI 生产力提升的公告，而据我所知，这些公司除了购买 Copilot 许可证并宣布胜利之外，什么都没干。 然而，我们必须了解这些项目是否真的奏效——如果以 AI 作为商业战略核心的这一全面聚焦，能够以合理的成功率取得成功，那么对其风险与回报进行讨论是合理的。 不幸的是，我们身处一个黑暗的时间线。我们团队观察到的所有 AI 项目都在失败。每一个——在一年半的时间里，成功率是 0%，不仅是在我们被要求参与的项目中2（https://hermit-tech.com/blog/ai-mania-is-eviscerating-global-decisionmaking#fn:2），甚至包括我们在做完全不相关工作时顺带观察到的项目。即使你承认 AI 工具确实加速了某些特定工作负载，当前投资的方式和规模也是毫无意义的。失败往往与 AI 本身无关，而是因为企业在有效运行软件项目方面糟透了，而且正如我之前所说（https://ludic.mataroa.blog/blog/i-will-fucking-piledrive-you-if-you-mention-ai-again/），AI 项目除了具备普通项目的所有失败模式之外，**还有**一点：你可能把所有事情都做对了，但由于方法的新颖性，仍然会失败。很少有公司能优秀到足以承担额外的风险。 然而，很多时候，失败实际上是 LLM 能力本身的局限。最常见的一种情况——正在全球各地企业中推广——就是内部聊天机器人，或者对更大胆的公司而言，是对外的客户聊天机器人。故事总是如出一辙。对于前者，我从未见过企业内部有实质性的内部采用。员工不使用内部聊天机器人，因为公司的文档质量通常很低，而 LLM 又不是通灵者——它只能知道那些已被写下来并可访问的东西。对于后者，作为消费者，我很少有愉快的体验，**也许**医疗预约中的实时转录是个例外——但这几乎不是什么值得让整个组织为之转型的事。在这两种情况下，项目负责人非常小心地避免追踪基本指标，比如这些工具是否真的被使用了，或者他们追踪的是那些容易被操纵的指标。 例如，我最近一次作为消费者的互动是，在经历了一次汽车故障后，试图向三菱寻求帮助：一个非常有礼貌的机器人让我描述问题，并表示一旦有人可用，我会很快接到回电。这是我在现实中见过的最得体的同类项目实现——声音自然、响应迅速、明显是“实时”在生产环境中运行的，并承诺会迅速解决。 那已经是六个月前的事了，而事实上，我并没有接到回电。 当三菱没有给我回电时，到底发生了什么？那个请求是不是就石沉大海了，从而显示当年的求助事件少了一件？它是否看起来像电话机器人未经过人工干预就解决了我的问题？我们只知道，它没有被显示为错误，否则我应该会接到电话。我相信这在很多方面看起来都很棒，除了唯一重要的那一点——我当时正打算买车，但**决定**不再买他们家的车了。 因此，我们的团队在与客户合作时很快学会：在任何情况下都不要去询问正在进行的 AI 项目——等那个项目启动时，对管理团队来说已经太晚了，在危机最终到来之前不可能进行干预。没有任何可能的积极结果。失败率如此之高，以至于连基本的询问都会让我们陷入困境。任何关于项目进展如何、目标是什么、谁在使用它的连贯问题，都无意中构成了对负责这项工作的指挥链的攻击，因为**对于任何问题都没有好的答案**。即使是在极少数情况下，我的对话者声称事情进展顺利（通常项目仍在进行中，失败尚未显现），通常也显而易见它们注定要失败。但至少在这些情况下，我可以简单表示同意，然后回家对着枕头尖叫六个小时。3（https://hermit-tech.com/blog/ai-mania-is-eviscerating-global-decisionmaking#fn:3） 所有这一切都是为了说明，我非常有信心，公司里关于“AI 带来巨大生产力提升”的几乎每份报告，作为基本事实都是不真实的。即使有些公司确实看到了明显的收益，那也是例外，而非常态。基于这个假设，我们可以讨论其中的动态机制，以及为何许多组织已经无法专注于那些对其长期（甚至短期）健康至关重要的东西。 ## 二、异端者将被处决 如今，就连提出 AI 可能不是某个问题的解决方案——更不用说成为公司整体战略的唯一焦点——这种可能性，都变得极其危险。 在我们观察过的每一家足够大（比如 500 名以上员工）的企业中，我们都注意到，持续晋升，甚至持续雇佣，已经开始要求反复宣示对 AI 改变企业命运力量的信仰。我说的不是提供如何在业务中使用 AI 的想法——我指的是**宗教般的**宣示，对信仰的表白。绝大多数这类声明来自非技术人员，不过技术人员为了讨好上级而发表荒谬言论的情况也并不少见。 有好几次，我看到某人没来由地几乎一字不差地脱口而出“AI 正在改变一切”，但片刻之后又承认，他们的组织目前并没有在任何事情上使用 LLM，而且事实上，除了他们从 ChatGPT（通常是免费版）中得到了些用处之外，他们说不出一件已经改变的事情。有一个极端案例，我看到一位 executives 承认自己这辈子从未用过 ChatGPT 或任何 AI 工具，而就在这之后，他为一个收入超过 20 亿美元的组织制定了一项完全以 AI 为核心的技术战略。 最初，这些说法表面上如此荒谬，以至于我认为这是某种为了获得思想领袖地位而玩的把戏——确实有人在这么做，有人曾向我承认过。但更广泛的现实要糟糕得多：那些没有技术背景的人**实际上相信自己在说什么**。一般来说，你应该避免与说谎者打交道，但如果你**必须**，至少你可以和他们讲道理，哪怕只在私下里。一个真正的信徒要危险得多，因为他们甚至对自身利益诱惑也无动于衷。 让我转折信念的是，我看到一个手握巨额资金的人解雇了他们最优秀的员工，仅仅因为这些员工在没有使用 LLM 的情况下完成工作。当一个雇主**公开**谈论 AI 创新时，我们得问问自己，他们是不是只是在操纵市场或客户。而当他们**私下里**，用自己的钱为赌注，且不打算向外部客户传达这一战略时，我只能认为他们确实是认真的。 不久前，我写了《反驳 Ptacek 关于 AI 的糟糕文章》（https://ludic.mataroa.blog/blog/contra-ptaceks-terrible-article-on-ai/），重点在于 Ptacek 在他的文章《我的 AI 怀疑论者朋友都疯了》（https://fly.io/blog/youre-all-nuts/）中的许多观点存在内在矛盾。4（https://hermit-tech.com/blog/ai-mania-is-eviscerating-global-decisionmaking#fn:4）但在核心问题上，我们实际上完全一致，因为他的文章开头是这样写的： > 科技高管正在强制推行 LLM 的采用。那是糟糕的战略。 也就是说，我们可以完全绕过关于 LLMs 精确效用的争论，然后落到一个非常简单的结论——我和 Ptacek，两个观点相当对立的人，都清楚地看到：人们在这件事情上真的、真的非常愚蠢，**而且**，组织正在对其专业员工强加匪夷所思的工作流程约束。5（https://hermit-tech.com/blog/ai-mania-is-eviscerating-global-decisionmaking#fn:5） 这些命令已经导致了极其古怪的局面。我的一些同行现在开始“AI 洗白”他们的工作——也就是说，即使他们能够完全胜任地执行工作，令管理团队满意，但如果工程师没有在工作中使用 AI，那些经理还是会不高兴……所以，现在即使在他们的专业判断认为 AI 不是合适工具的情况下，他们也撒谎说用了 LLM。他们只是像几十年来一样照常完成工作，然后说这是 Claude 做的。还有另一些人，他们通过“token 排行榜”来衡量 AI 账单——数字越高**越好**，因为我显然掉进了地狱的某个口袋，那里的魔鬼通过精心模仿一群彻头彻尾的白痴来折磨我——于是那些被雇佣来发挥他们对系统优化变态能力的人做了显而易见的事情：他们让 LLM 在一个半合理的循环中不断自我提示，以防有人检查 token 消耗，然后他们就看 Netflix 去了。没有一个人被抓住，即使他们自己评估认为输出并不适合部署。 > 我检查了我们的 Go 仓库的一个并行副本，然后让 AI 把整个东西重写成 Zig，而与此同时我在做别的工作——这一切只是为了保住我的工作。我恨透了这一切。我的工作有使用跟踪和配额。我并不把它用在真正的工作上，我只是把它打开，然后忽略输出。——一位真实的软件工程师 事实上，据我所知，因为这件事而被解雇的唯一一类人，就是那些对这项组织战略公开表示怀疑的人——而这一点，就连 Ptacek 都认为这策略明显很蠢。最终结果是，每个人都很快学会了称赞高管的远见卓识的 AI 能力，否则他们就会在比喻意义上的街头被“处决”。 ## 三、AI 演示是思维杀手 神父，请保佑我，因为我犯了罪。距离我上次忏悔已经过了 ∞ 天。我指控自己犯下以下罪行： 我们在客户那里部署的主要基础设施之一是一个以分析为核心的数据库，叫做 Snowflake——对于典型的企业来说，账单**很小**，因为它是按需付费的，我们可以在一天之内用一分钟处理完他们所有的数据，部署极其省心，总之有很多特性非常有利于我们的工作。Snowflake 中有一个我们**不**使用的功能叫 Cortex。 Cortex 是他们的 AI 聊天机器人层，可以接入元数据（对非技术人员来说，就是数据的描述，比如电子表格中某一列的含义），然后自主查询公司的数据库。理论上，你可以问诸如“我们上周的营收是多少？”这样的问题，它会给你一个答案。 但它其实并不适合生产使用。据我记得，上一次 Snowflake 自己的员工给我们做演示时，他们报告说，由于大型企业数据的复杂性，理想配置下准确率也只有大约 92%（看吧，这可能是这类工具中最好的了，但想象一下，如果你的 CFO 每十个数字中就有一个是错误的），而且管理部署存在严重问题。尽管如此，它确实可以用来制作一些非常花哨的演示。 有好几次，我们接触到了一些对我们主要产品有些不太热心的客户，但他们**非常、非常**想用 AI 来对他们的数据执行自然语言查询。我们想：“好吧，如果你们**真的**想看，也许我们可以适当地加些限定条件，然后给你们展示一下大概的样子。” **这是一个可怕的错误**。它以最可预见的方式适得其反——每一个看到聊天机器人运作的兴致不高的客户，**即使我们告诉他们这并不能实现他们想要的效果**，都立刻想要购买。其他所有考虑，包括我们可以通过非 AI 的方式帮助他们在合理范围内实现的数百万美元收益，都被抛到了一边。就好像一股黑暗可怕的力量抓住了他们的四肢，把他们的手插进自己的胸膛，然后把他们还在跳动的心脏（信用卡）递给我们，做出可怕的祈求。我们对这种莫名其妙的气氛转变感到无比震惊，于是（明智地）拒绝收钱并终止了销售流程，很快就把 Cortex 从我们的演示列表中移除了。利用他们推理中的这个漏洞太过不负责任，而且坦率地说，这