AI：决策者需要考虑的事项

# AI：给决策者的一些思考 —— Bert Hubert 的写作 来源：https://berthub.eu/articles/posts/ai-for-decision-makers/ 最近，我接连为荷兰公共服务提供者网络（https://netwerkvanpubliekedienstverleners.pleio.nl/）和荷兰科学、技术与创新咨询委员会（https://awti.nl/）做了两场关于 AI 的演讲。在这两场各有侧重、时间又不长的演讲中，我希望分享一些见解，能对目前掌舵的人、对能够或必须就 AI 政策做出决策的人有所启发。非常感谢 NPD 和 AWTI 的邀请，以及那两场 stimulating 的讨论！ > 🇳🇱 本文还有荷兰语版本（https://berthub.eu/articles/posts/ai-voor-wie-erover-gaat/）。 这篇文章源于这两场演讲。第一场在 NPD（https://berthub.eu/npd/preso-notes.pdf），重点是决策者面临的具体挑战。第二场在 AWTI（https://berthub.eu/awti/preso-notes.pdf），讨论的是建设可信赖的（欧洲）AI 基础设施需要什么，以及这件事到底意味着什么。演讲结束后，我开始动笔，最终写成了这篇文章。 写作过程中，我越发感受到这个主题的棘手。有人对 AI 充满热情，也有人认为它是魔鬼化身。这两个阵营如此对立，以至于想写出让所有人都满意的文章是不可能的。 不过，写一篇让每个人都对其中某部分感到不满的文章，倒是完全可行。那就开始吧。 我真心希望，支持者和反对者读完之后都能有所收获。也许有一件事是我们可以达成共识的：**到底在急什么？** 每个城市是不是真的今年就必须部署 Copilot？荷兰议会是不是真的已经需要让所有人都用上它？ 下面要说的不是那种“两边各打五十大板（https://quoteinvestigator.com/2023/11/14/rain-look/）”的论证。对于完全不喜欢 AI 的人，你会看到 AI 确实**能**做一些了不起的事。对于 AI 爱好者，我有一长串理由说明为什么需要慎重考虑这到底是不是个好主意。 总的来说，我深切担忧我们走得太快了，而鉴于下文列出的事实，我不认为这个立场是不合理的。 剧透 —— 点击这里查看完整摘要 AI 作为一种现象，确实能做到一些非常了不起的事，科学家们还因为创造了一个非常有用的 AI 模型而**赢得了诺贝尔奖**。但大型语言模型对组织整体是否真的有益，则是另一回事。用 AI 更快地生成更长的文档，然后让其他部门再用 AI 去总结这些文档，这不是进步。AI 还会对组织的职业发展结构造成严重冲击：如果 AI 接管了初级工作，你未来的高级员工从哪里来？而高级员工真的愿意把职业生涯花在检查 AI 生成的内容上吗？ 组织正感受到强烈的“错失恐惧症”（Fear Of Missing Out），这股压力推动它们尽快采用 AI。然而，尽管 AI 确实令人惊叹，对大多数公司和机构来说，其实并没有那种紧迫性。如果 AI 最终被证明是个好主意，它明年也还在。有时候看起来，人们似乎觉得如果现在不部署，以后就再也追不上了。 AI 伴随着巨大的问题和风险，值得认真对待。它排放的 CO2 高得离谱，消耗的电量多到需要为此新建发电厂，而与此同时，我们已经在为严重的电网拥堵和日益具有破坏性的野火而苦恼。输入 AI 系统的数据的知识产权地位是一个巨大的问题，它同时也让 AI 的“输出”归谁所有变得不确定。 人们出奇轻易地就把这些担忧抛在一边，但别搞错：AI 行业会把这些问题变成**我们**的问题。试试去问微软，他们是否会为 Copilot 输出引发的知识产权索赔提供赔偿（这个问题问起来很有意思）。与此同时，AI 对数字主权来说是一场灾难：这是从美国进口的监控资本主义的又一次重演。AI 提供商会大规模泄露个人数据（https://www.404media.co/tons-of-peoples-claude-chats-and-creations-are-exposed-on-google/），有时甚至包括自己员工的数据。 该听谁的建议，这很难判断。在总计三到四万亿美元的投资之后，AI 行业本身已经深陷其中，不能再被视为中立的信源。许多媒体、大量咨询公司和整个软件生态已经变得如此狂热，以至于事实和炒作越来越难以区分。另一方面，也有很多人因为感受到 AI 的威胁，只能说出关于它的坏消息。还有一些温和派说：“AI 只是一个工具，关键在于你怎么用它。”这话确实没错，但他们从没解释过怎样才算“用得好”，或者这种情况是否真有可能发生，因此这种建议的实际价值有限。 推广 AI 的压力如此之大，以至于大多数组织既没有事先明确期望，也没有建立衡量 AI 实验是否成功的标准。结果就是，他们最后有了许多含糊定义的“成功”，而这些可能根本算不上成功。从高管层看出去，一切都很光鲜。但你的员工真的变得更有生产力或更幸福了吗？没有人去衡量这些。 还有一个根本问题：我们到底想从 AI 中得到什么？让 AI 使写报告和文档更容易，这听起来很诱人，但难道写这些文档本身不就是通往好计划的思考过程的一部分吗？“写作即思考。”如果你让 AI 来替你写，那谁还能从这件事中学到东西？反正不是你。 提供 AI 服务的公司在财务上也变得岌岌可危。关于 AI 泡沫是否即将破裂，还是已经开始破裂，争论相当激烈。AI 本身不会消失，但如果今天的资金枯竭，它可能会突然变得昂贵得多。如果你的组织已经——也许还叠加了人员流失——变得依赖它，那就会成为严重的问题。 总而言之，AI 的未来在多个维度上仍然不确定。它的巨大潜力（诺贝尔奖！）显而易见，但这并不意味着每个办公室里的人都该急着让 AI 来生产和阅读他们所有的文档。对大多数组织来说，并没有一列你可能会错过的火车。 然而，仓促拥抱 AI 的决定可能造成巨大损害——对气候、对你的法律地位、对社会（通过加剧电网压力）都是如此。它还可能赶走你的一部分员工，并给你留下一个不可持续的组织结构，因为下一代高级员工从哪里来？ 简而言之：明智的人不会因为别人都往沟里跳，就也跟着跳。花点时间，观望一下，你也许能让你的组织免于大量动荡和不必要的混乱。一年之后，形势大概率会清晰得多。 ### AI：我们真的不知道 今天的 AI 不是明年的 AI，它的社会影响也在不断变化。这真是过山车。尽管如此，我们仍然有办法从混乱中理出头绪，对正在发生的事情、对哪些做法明智哪些不明智，形成一个合理的理解。本文希望能为此做出一点贡献。 任何声称自己确切知道结果会如何的人，至少是脑子不太清醒。以普华永道（PwC）这则广告为例： *来源（https://www.linkedin.com/posts/edwin-van-bommel_20-van-de-organisaties-pakt-74-van-alle-share-7462572416599515138-Xc3m/）——上面用荷兰语写着“AI 的价值并非平均分配。74% 的 AI 价值只被 20% 的公司获得”* 这让我想起，大约 87.539% 的统计数据似乎都是编出来的。 一张更诚实的图表来自达拉斯联邦储备银行： *来源（https://www.dallasfed.org/research/economics/2025/0624）* 根据“达拉斯联储”的说法，AI 会让经济规模变成现在的**四倍**，或者**十六分之一**。真相大概在两者之间吧！但这张图想说的是：我们真的不知道。 所以，不要太把那些声称完全知道接下来会发生什么的人当回事。但这并不意味着，认真思考我们应该如何对待 AI 这一现象是没有意义的。 ## 诺贝尔化学奖 有些人喜欢把 AI 贬得一文不值。“高级自动补全。”“随机鹦鹉。”这里有一个来自生物学的反例，生物学恰好是我相当熟悉的领域（https://www.nature.com/articles/s41597-022-01179-8）： 一个 AI 模型的诞生，确实赢得了真正的诺贝尔化学奖。而且正如莱顿大学这里所解释的（https://www.universiteitleiden.nl/en/news/2024/10/the-nobel-prize-in-chemistry-went-to-an-ai-model-and-rightly-so），这个奖完全应该。借助 AI 模型，我们现在可以直接从 DNA 预测蛋白质的三维结构。这是人类做不到的事，也是此前计算机无法以任何有意义的方式帮助我们做到的事。因此，那个诺贝尔奖完全合理。生物学和药物研究已经在感激地使用这些新能力（https://en.wikipedia.org/wiki/AlphaFold）。这个 AI 模型的架构与大型语言模型的架构惊人地相似（https://elanapearl.github.io/blog/2024/the-illustrated-alphafold/）。 有人说这种 AI 并非真正的智能，“不知道自己在做什么（https://berthub.eu/articles/posts/ai-is-guaranteed-to-disrupt-us/）。”这话大体没错。但这项 AI 应用已经在带来让所有人受益的发现。 AI 在黑客攻击方面也可以非常出色（https://npo.nl/start/afspelen/nieuwsuur_5400）（虽然它并不总是（https://www.bbc.com/news/articles/c2el319vzr3o）黑掉你本来想黑的东西（https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals））。它能翻译得相当好，能生成许多情况下超过人类水平的音频转录（不过还是那句话，你真的需要核验它生成的内容，而几乎没有人最后会去核验）。你也可以靠“氛围”一路 vibe 出一些非常惊艳的 demo。 所以，不，AI 不能简单地说成“全是胡说八道”。但这也不是全盘背书。事实上： ## 我不得不提：诉讼、赌场、气候、数字主权和电网拥堵 你一提起这些，人们几乎要翻白眼，但每一位大型语言模型服务的主要提供者，目前都深陷巨大的诉讼之中，涉及出版商（https://publishers.org/news/publishers-and-authors-file-class-action-lawsuit-against-meta-and-zuckerberg-for-willful-copyright-infringement-to-develop-llama-ai-models/）、学者、媒体机构（https://www.theguardian.com/media/2025/jun/20/bbc-threatens-legal-action-against-ai-startup-over-content-scraping）、报纸（https://en.wikipedia.org/wiki/The_New_York_Times_v._Microsoft_and_OpenAI）等。在正常情况下，我们会对与那些显然从事如此有争议行为（https://authorsguild.org/news/meta-libgen-ai-training-book-heist-what-authors-need-to-know/）的公司做生意犹豫不决。但一说到 AI，这件事突然就变得完全可以接受了。 问 AI 供应商是否愿意为他们的输出所引发的知识产权索赔提供赔偿，这确实很有意思。让你的法务部门去研究一下。答案——或者没有答案——可能会让你惊讶。 作者：Catboy69 – 自己作品，CC0（https://commons.wikimedia.org/w/index.php?curid=177498746） AI 供应商的财务状况令人极其担忧。他们都在以越来越循环的方式互相投资，而最大的参与者之一 Oracle，其信用评级已经跌到只比“垃圾级”高一级（https://www.spglobal.com/ratings/en/regulatory/article/-/view/sourceId/101695609）。把自己的未来建立在一个可疑的赌场（https://www.wheresyoured.at/the-subprime-data-center-crisis/）之上，这可不是小事。埃隆·马斯克的 AI 公司发行的债务现在也被当作“垃圾债券（https://www.tradingview.com/symbols/DUS-US84615QAG8/）”交易。 《金融时报》本周写道（https://ftav.substack.com/p/this-is-nuts-whens-the-crash）： > “无论怎样，AI 怀疑论现在感觉已经成了共识。至于如何为崩盘做准备，你基本只能靠自己。但如果音乐真的停下来，会有非常多的人已经摆好姿势，准备说‘我早就告诉过你’。” 我们原本还非常认真地同意要减少 CO2 排放。许多国家都签署了相关协议（https://www.consilium.europa.eu/nl/policies/paris-agreement-climate/）。而在几年之内，AI 预计将消耗比法国更多的电力（至少有人这样声称（https://www.technologyreview.com/2025/05/20/1116327/ai-energy-usage-climate-footprint-big-tech/）），老旧的核电站现在也被重新启用（https://www.bbc.com/news/articles/cx25v2d7zexo）来满足需求。显然，这也没关系。 再说到我们自己身边：你可能会发现，在荷兰，你新房子申请不到电力接入（https://nos.nl/collectie/13871/artikel/2611482-stroomnet-utrecht-nu-echt-vol-helemaal-geen-nieuwe-of-zwaardere-aansluitingen-meer），因为电网已经饱和了。然而我们却急于在这里建大型 AI 数据中心，而且最好是越快越好。这背后的潜台词似乎是：你可以搬到别的地方去住。 我们还曾经决定，要努力实现数字主权（https://berthub.eu/articles/posts/goede-geluiden-over-digitale-autonomie/），减少对美国大型科技公司的依赖。然而，企业和政府中几乎每一个 AI 部署，都等于美国的“监控资本主义（https://en.wikipedia.org/wiki/Surveillance_capitalism）”，我们的数据被热切地收集和利用（而且不是为了改善我们的生活）。 除此以外，大多数 LLM 都建立在对低薪工人的剥削之上（https://time.com/6247678/openai-chatgpt-kenya-workers/）。 同样耐人寻味的是，AI 倡导者提议用 AI 替换掉你整个初级员工队伍，却完全不考虑未来的高级员工该从哪里来。 而这一切都非常怪异（https://berthub.eu/articles/posts/the-impossible-things-we-have-to-believe/）。有整整一整场会议和 AI 工作坊，连这些 glaring 的矛盾都不提一句。 现在每个为 AI 擂鼓助威的人，实际上也在说：“对你的环境、你的知识产权、你的数字主权、你的员工，以及你新家接不上电这件事，我们很遗憾。”因为显然，我们必须继续往前冲。 这是一种相当奇特的状况。 ## AI 也能做出惊人的事 如果我们暂时放下气候损害、电力短缺、知识产权问题等等（就像别人似乎都做的那样！），那么你会发现，许多 AI 批评者其实对 AI 几乎没有第一手经验。这就会导致一些很有趣的碰撞。一个以前一行代码都不会写的人，周末用 vibe-coding 搞了一个 AI 工具来整理自己的照片集，回来时满怀热情。然后他遇到一个怀疑论者，对方坚称没有