AI：给决策者的思考

# AI：对决策者的思考——Bert Hubert 的写作 来源：https://berthub.eu/articles/posts/ai-voor-wie-erover-gaat/ 最近，我先后在公共服务机构网络（https://netwerkvanpubliekedienstverleners.pleio.nl/）和科学、技术与创新咨询委员会（https://awti.nl/）做了关于 AI 的演讲。在这两个不同但简短的演讲中，我希望分享一些对当前掌舵者——那些可以或必须就 AI 政策做出选择的人——有用的见解。感谢 NPD 和 AWTI 的邀请以及富有启发性的讨论！ 本文基于这两场不同的演讲。第一场在 NPD（https://berthub.eu/npd/preso-notes.pdf）主要讨论了决策者面临的具体挑战。第二场在 AWTI（https://berthub.eu/awti/preso-notes.pdf）则探讨了建立可靠（欧洲）AI 基础设施需要什么，以及这又意味着什么。这些演讲之后，我开始写作，最终形成了这篇文章。 写作过程中，我意识到这一切有多么棘手。AI 有巨大的支持者，也有人认为它是魔鬼。这两个阵营如此极化，以至于写出一篇让所有人都满意的文章是不可能的。 不过，倒是可以写出一篇让各方都生气的文章。就是这样。然而，我仍然希望无论支持者还是反对者，读完本文后都能变得更明智。也许我们还能达成一些共识：真的有那么着急吗？每个城市真的必须今年就用上 Copilot？荷兰议会现在就必须为所有人部署 AI？ 接下来的内容不会搞“各打五十大板”（https://quoteinvestigator.com/2023/11/14/rain-look/）那一套。对于那些完全讨厌 AI 的人，下面你将看到 AI 确实能做非常令人印象深刻的事情。对于 AI 粉丝，我有很多东西需要你们思考：这真的好吗？ 但总的来说，我非常担心我们是否走得太快太急了，而鉴于事实，我认为这不是一个不合理的立场。 剧透警告 —— 点击此处查看详细摘要 AI 作为一种现象确实能做出非常令人印象深刻的事情，比如**赢得诺贝尔奖**。但语言模型对整个组织是否真正有用还是一个问题。用 AI 更快地生成更大的文档，然后其他部门再用 AI 去总结，这并不是收益。AI 还会严重扰乱你的岗位结构——如果初级工作都由 AI 完成，你的高级员工从哪里来？而且高级员工会喜欢把检查 AI 输出当作自己的工作吗？ 组织存在强烈的“错失恐惧症”（FOMO），觉得必须赶紧推进 AI。尽管 AI 确实令人叹为观止，但对大多数企业和机构来说，根本不需要着急。如果 AI 被证明是个好主意，明年它也还在。有时人们似乎以为，如果现在不部署，以后就没机会参与了。 AI 带来了巨大的问题和风险，需要认真权衡。AI 消耗着荒谬大量的二氧化碳，并且需要如此多的能源，以至于需要新建额外的发电厂，而我们已经面临严重的电网拥堵和森林火灾。投入 AI 的数据的知识产权是一个巨大的问题，也导致了对 AI 输出所有权的质疑。 每个人都很容易忽略这一点，但要知道 AI 行业会把这个问题变成我们的问题。去问问微软，他们是否愿意为 Copilot 输出的知识产权索赔提供赔偿（这事真的很好玩！）。与此同时，AI 对数字自主权来说是一场灾难，一切又都是来自美国的监控资本主义。AI 提供商**大量泄露个人数据**（https://www.404media.co/tons-of-peoples-claude-chats-and-creations-are-exposed-on-google/），甚至经常泄露自己员工的数据。 很难确定该听谁的。AI 行业本身在投入了 3 到 4 万亿美元后，已经深陷其中，不再是可靠的来源。许多媒体、咨询公司和更广泛的软件生态系统也如此热衷，以至于我们无法分辨真伪。反过来，也有足够多的人感到被 AI 攻击，只能带来坏消息。还有那些持中立态度的人，说“AI 只是一种技术，关键在于如何使用”。但他们没告诉我们具体怎么做，所以也帮不上什么忙。 部署 AI 的压力如此之大，以至于大多数组织没有预先设定期望，也没有确定如何衡量 AI 实验的成功。这导致了许多模棱两可的所谓成功，可能根本就不是成功。从管理层来看，一切看起来都不错。但你的员工真的变得更高效或更快乐了吗？没人去衡量。 还有，我们究竟想从 AI 中得到什么？写报告和文档变得更容易似乎很好，但写这些文档不正是思考过程的一部分，从而得出好计划吗？“写作即思考”。如果你让 AI 替你写作，那谁还能从中受益呢？ AI 提供商如今在财务上是非常惊险的构造。关于 AI 泡沫是否即将破裂，甚至已经在破裂，存在很多讨论。AI 永远不会消失，但如果目前的资金链断裂，它可能会突然变得非常昂贵。如果你的组织已经依赖它（加上人员流动），那将是个大问题。 总而言之，AI 的未来在多方面都不明朗。巨大潜力（诺贝尔奖！）是显而易见的，但这并不意味着每个办公室的人都必须急着用 AI 来撰写和阅读文档。对大多数组织来说，根本不存在会错过的班车。 然而，仓促选择 AI 可能会对气候、你的法律地位和生活质量（电网拥堵）造成巨大损害。你也可能赶走部分员工，最终陷入不可持续的岗位结构——新的高级员工从哪里来？简而言之，明智的人不会像别人一样一头扎进沟里。再观望一下，谁知道呢，也许能为你组织避免很多麻烦和动荡。一年后，一切很可能都会明朗得多。 ### AI：我们不知道 现在的 AI 不是明年的 AI，社会影响也在不断变化。这真是一趟过山车。不过，还是有一些方法可以从混乱中理出头绪，明白什么是明智的做法（或不该做的事）。本文希望能对此有所贡献。 任何一个现在声称知道真相的人，至少是搞糊涂了。比如 PwC 的这个广告： *来源（https://www.linkedin.com/posts/edwin-van-bommel_20-van-de-organisaties-pakt-74-van-alle-share-7462572416599515138-Xc3m/）* 我想指出的是，87.539% 的统计数据似乎是编造的。 更诚实的图表来自达拉斯联邦储备银行： *来源（https://www.dallasfed.org/research/economics/2025/0624）* 根据“达拉斯联储”的说法，AI 将使经济规模扩大**四倍**，或者缩小**十六倍**。大概就在这两者之间吧！ 所以，不要太当真那些声称自己一清二楚的人。当然，这并不意味着思考如何面对 AI 这种现象没有意义。 ## 诺贝尔化学奖 有些人喜欢把 AI 贬低为胡说八道。“花哨的自动补全”、“随机鹦鹉”。这里有一个来自生物学的反例，我碰巧自己也**很熟悉**（https://www.nature.com/articles/s41597-022-01179-8）： AI 确实赢得了真正的诺贝尔化学奖。正如**莱顿大学**所说（https://www.universiteitleiden.nl/en/news/2024/10/the-nobel-prize-in-chemistry-went-to-an-ai-model-and-rightly-so）：这完全合理。利用 AI 模型，我们现在可以从 DNA 预测蛋白质的形状。这是人类做不到的，也是以前的计算机无法很好协助的。因此，诺贝尔奖非常合理。在生物学和制药领域，人们正在**利用这些新能力**（https://en.wikipedia.org/wiki/AlphaFold）。这个 AI 模型的架构**与大型语言模型非常相似**（https://elanapearl.github.io/blog/2024/the-illustrated-alphafold/）。 有人说这个 AI 并不真正智能，而且“不知道自己在做什么”（https://berthub.eu/articles/posts/ai-sowieso-ontwrichtend/）。这在一定程度上是对的。但这个 AI 应用已经使得许多我们都将受益的发现成为可能。 AI 也**非常擅长黑客攻击**（https://npo.nl/start/afspelen/nieuwsuur_5400）（只不过它**并不总是**（https://www.bbc.com/news/articles/c2el319vzr3o）攻击你**想要的目标**（https://berthub.eu/articles/posts/ai-met-het-oog-op-morgen/）），翻译也相当不错，还能进行超人的音频转录（不过，再说一次，你需要仔细检查它的输出，而最终几乎没人这么做）。你还可以通过“vibe coding”拼凑出非常令人印象深刻的 demo。 所以，不，AI 不能被贬低为“全是胡说八道”。但这并不是一个普遍的推荐。更确切地说： ## 我还是得提：诉讼、赌场、气候、数字自主权、电网拥堵 人们觉得一提到这些就很烦，但所有大型语言模型服务的主要提供商都卷入了与**出版商**（https://publishers.org/news/publishers-and-authors-file-class-action-lawsuit-against-meta-and-zuckerberg-for-willful-copyright-infringement-to-develop-llama-ai-models/）、学术界、**媒体**（https://www.theguardian.com/media/2025/jun/20/bbc-threatens-legal-action-against-ai-startup-over-content-scraping）、**报纸**（https://en.wikipedia.org/wiki/The_New_York_Times_v._Microsoft_and_OpenAI）等的巨大诉讼中。在正常情况下，我们不会想与那些明显在做**如此有争议事情**（https://authorsguild.org/news/meta-libgen-ai-training-book-heist-what-authors-need-to-know/）的方打交道，但为了 AI，显然这一切都可以接受！ 问 AI 供应商他们是否愿意为输出内容的知识产权索赔提供赔偿，这非常好玩。让你的法务人员去查查。答案（或者缺乏答案）会让你吃惊。 由 Catboy69 创作，CC0（https://commons.wikimedia.org/w/index.php?curid=177498746） AI 提供商的财务状况令人震惊地令人担忧。大家都在“循环”投资彼此，而最大的参与者之一（Oracle）的信用评级已经降至**仅比“垃圾级”高一个档次**（https://www.spglobal.com/ratings/en/regulatory/article/-/view/sourceId/101695609）。把自己的未来建立在**一个可疑的赌场**（https://www.wheresyoured.at/the-subprime-data-center-crisis/）上，真是够呛。埃隆·马斯克的 AI 公司的债券也已被当作“垃圾债券”交易（https://www.tradingview.com/symbols/DUS-US84615QAG8/）。 **金融时报**本周写道（https://ftav.substack.com/p/this-is-nuts-whens-the-crash）： > “不管怎样，对 AI 的怀疑现在似乎成了共识。至于如何为崩盘做准备，基本上只能靠你自己了。但如果音乐真的停了，会有很多人摆好姿势，准备好说‘我早告诉过你’。” 此外，我们本来已经商定要减少二氧化碳排放。**有大量国家签署的协议**（https://www.consilium.europa.eu/nl/policies/paris-agreement-climate/）。再过几年，AI 将消耗比法国还多的电力（有人说（https://www.technologyreview.com/2025/05/20/1116327/ai-energy-usage-climate-footprint-big-tech/）），而且**人们现在重新启用旧核电站**（https://www.bbc.com/news/articles/cx25v2d7zexo）来满足需求，这似乎也完全没问题！ 更近一点，你**无法为新家获得电力**（https://nos.nl/collectie/13871/artikel/2611482-stroomnet-utrecht-nu-echt-vol-helaas-geen-nieuwe-of-zwaardere-aansluitingen-meer）。因为存在电网拥堵。但我们却非常希望在这里建设巨大的 AI 数据中心，而且越快越好。传达的信息是：你住别处去吧。 另外，我们曾决定**要致力于数字自主权**（https://berthub.eu/articles/posts/goede-geluiden-over-digitale-autonomie/），减少对美国大型科技公司的依赖。但企业界和政府的所有 AI 部署再次成为美国的“监控资本主义”（https://en.wikipedia.org/wiki/Surveillance_capitalism），我们的数据被随意使用（并非为了改善我们的生活）。 而且大多数 LLM **还建立在剥削廉价劳动力的基础上**（https://time.com/6247678/openai-chatgpt-kenya-workers/），这些工人工资极低。 同样令人着迷的是，AI 支持者建议用 AI 取代整个初级员工队伍，却不去想未来的高级员工从何而来。 这一切**实在太奇怪了**（https://berthub.eu/articles/posts/the-impossible-things-we-have-to-believe/）。关于 AI 的整个会议和聚会都不提上述荒谬的矛盾。 现在每个为 AI 敲锣打鼓的人也在说：“哦，抱歉你的环境、知识产权、数字自主权、员工、你家的电力短缺。”因为显然我们还是得继续！真是奇怪。 ## AI 也能做出惊人的事情 如果我们暂且忽略气候破坏、电力短缺和知识产权状况（毕竟每个人都在这么做！），那么就会发现许多 AI 批评者自己根本没有使用 AI 的经验。这导致了精彩的碰撞。一个以前不会编程的人，这个周末却用 AI 工具通过“vibe coding”整理了自己的照片收藏，他充满了热情。然后遇到一个怀疑论者，说这一切都不真实、不可能。这就炸了。 但 AI 确实能给人带来难以置信的体验。一个从未编程的人周一回到办公室，带着一个功能相当不错的应用。这简直不可思议。就像我吃了三颗药丸，突然能说流利的法语。我也会非常兴奋。 *尼奥在《黑客帝国》中也突然会了功夫* 有过这种体验的人深信不疑：这太神奇了！对这个人来说也确实如此。我不想淡化这一点，一个没有经验的人现在能通过“vibe coding”拼凑出东西，真是难以置信。你必须亲眼见到才能相信。 与此同时，**这并不意味着这个应用在仔细审查后也是可维护、完整、有用或安全的**。通常情况并非如此。 这就引出了一个核心问题——很多 AI 是由不具备相应能力的人来评估的。谁能判断一个应用好不好？是最终用户，以及实际提供和管理这类应用的人。他们知道暗处的陷阱。备份工作正常吗？日志有意义吗？用户能理解这个应用吗？帮助台能看到出了什么问题并解决问题吗？在某些三星或苹果手机上会崩溃吗？或者像最近的 Rabobank 应用更新那样，倾斜手机时应用会混乱？代码可读且可维护吗？数据存储符合 GDPR 吗？**数据到底存放在哪里**？