Karen Hao：AI 的构建并非必须如此

# OpenAI、Anthropic 或可另辟蹊径构建 AI，《AI帝国》作者 Karen Hao 如是说 来源：https://www.bloomberg.com/features/2026-karen-hao-weekend-interview/ 2026年7月24日，美国东部夏令时凌晨1:00 OpenAI 在披露其两个高级 AI 模型在一次网络能力测试中攻击（https://www.bloomberg.com/news/articles/2026-07-21/openai-says-its-ai-used-for-unprecedented-hugging-face-breach）了另一家公司的系统后面临新的审视，这重新引发了关于行业安全实践的辩论。《AI帝国》 (https://www.penguinrandomhouse.com/books/743569/empire-of-ai-by-karen-hao/) 的作者 Karen Hao 认为，这些担忧只是更大故事的一部分。她说，大型语言模型背后隐藏的劳动大军——以及关于规模、权力和利润的选择——值得更多关注，尤其是在领先的 AI 公司接近公开上市之际。 *本对话经过编辑以追求篇幅和清晰度。您可以在**The Mishal Husain Show* (https://www.bloomberg.com/mishal)*播客中收听完整版。* **你把 AI 公司比作帝国，因为你说它们*****攫取并提取宝贵资源来供养它们的愿景*****。是什么让你如此强烈地这样认为？** 这些公司已经巩固了历史上巨大的经济和政治权力。它们正在成为世界上的最高权力者，就像过去的帝国一样。它们声称拥有不属于自己的资源：个人的数据和艺术家、作家、创作者的[知识产权]（https://apnews.com/article/ai-anthropic-copyright-settlement-claude-books-bartz-74b140444023898aeba8579b6e9f0d63）。它们通过两种方式剥削着极其大量的劳动力：一种是它们雇佣并耗尽精力来生产技术的工人，另一种是随着这些技术的部署而工作被自动化的工人。 数据工作现在是美国增长第四快的工作。从事这项工作的人是科学家、律师和博士毕业生。他们将自己的知识和专长用于训练这些模型，但工作条件极具剥削性，薪酬也很低。我已经报道这类工作将近八年了；同样的故事反复出现。1 1在《AI帝国》中，Hao 还审视了发展中国家的 AI 劳动力。例如，2021 年，当 OpenAI 为 ChatGPT 的更广泛发布做准备时，它需要确保冒犯性内容在到达用户之前被过滤掉。Hao 写道：“为了构建自动过滤器，OpenAI 首先需要人工工人仔细审查并分类数十万个样本。”这项工作被[外包到肯尼亚]（https://www.theguardian.com/technology/2023/aug/02/ai-chatbot-training-human-toll-content-moderator-meta-openai），Hao 说那里的工人必须将“怪异的文字描述”分类为包括暴力画面、仇恨言论、骚扰和兽交等类别。 《AI帝国》书籍封面 **但这仍然是*****工作*****，不是吗？是否存在一个方面是关乎我们时代的挑战，不一定比以前更剥削？** [这些]人受过高等教育，本来可以找到全职工作。他们现在无法获得更好工作的原因也是 AI 行业造成的。它设计技术并将其作为自动化知识工作的工具来销售。就业市场正在萎缩——美国 25% 的失业人口拥有四年制大学学位。这是历史记录。 所以问题不仅仅是给没有工作的人提供工作；而是它正在贬低现有的工作机会——将知识工作者从全职工作推向零工经济。2 2经济学家们正在[激烈争论]（https://www.brookings.edu/articles/research-on-ai-and-the-labor-market-is-still-in-the-first-inning/）这在多大程度上是由 AI 造成的。斯坦福大学的研究人员发现[一些证据]（https://www.bloomberg.com/news/articles/2025-08-26/ai-makes-it-harder-for-entry-level-coders-to-find-jobs-study-says）表明 AI 正在减少入门级工作的数量，高盛最近发布了一份[报告]（https://www.bloomberg.com/news/articles/2026-05-15/us-is-starting-to-see-heavy-job-losses-in-roles-exposed-to-ai），声称受 AI 影响的行业就业增长正在放缓。 **你是说，我们在使用 Claude 或 ChatGPT 时，应该考虑劳动剥削吗？** 绝对应该。其他行业也有类似问题。时尚行业也涉及大量的劳动剥削和严重的环境退化。答案从来不是“让我们干脆完全抛弃衣服”。答案始终是“让我们在制造衣服时对自己提出更高标准，避免那些问题”。 **你对像马耳他这样的国家有什么看法？它与 OpenAI 签署了一项[重大协议]（https://openai.com/index/malta-chatgpt-plus-partnership/），每个住在马耳他的人都可以免费使用 ChatGPT Plus 一年。马耳他表示这使其处于数字时代的前沿。** 我遇到过很多来自发展中[和]较小国家的政策制定者，[他们相信]只有把自己“出售”出去，才能参与这场革命。仅仅因为政府为这项合作感到自豪，并认为这让他们在谈判桌上有了[一席之地]，这并不一定意味着它正在让其公民过上更有尊严的生活。 **他们的政府会认为这是在为他们提供工作技能或获取知识的途径。** 我认为他们正在被剥削，我很想知道马耳他*人民*的看法，而不是马耳他*政府*的看法。他们的数据正在被收集以训练下一代模型。 这就是为什么这些公司出去达成这些合作：他们需要越来越多的数据。他们已经用尽了高质量的网络数据，所以最好的来源之一就是直接来自用户。如果他们能达成这种全国性的合作，他们就能获得一个全国性的数据库，可以自由上传。3 3我们就 Hao 关于数据收集的说法联系了 OpenAI 和微软，因为两家公司都[在与马耳他合作]（https://www.gov.mt/en/Government/DOI/Press%20Releases/Pages/2026/05/16/pr260871en.aspx）。OpenAI 的回应指引我们查看其关于不希望数据用于训练模型的用户的[选择退出流程]（https://help.openai.com/en/articles/5722486-how-your-data-is-used-to-improve-model-performance）。微软表示：“对于拥有个人订阅的 Microsoft 365 应用中的 Copilot 用户，我们不会使用其数据进行训练。”与此同时，[一项最近的调查]（https://europa.eu/eurobarometer/surveys/detail/3682）发现，超过一半的马耳他人预计 AI 将在未来十年对他们的生活产生积极影响——高于欧盟平均水平。 有些人认为这就像“哦，好吧，我以前用谷歌一样”。但我从未见过人们将自己的医疗文件上传到谷歌，并询问其解读。人们却对 ChatGPT、Gemini [和] Claude 这么做。 **对你来说，难道就*****没有*****积极的一面吗？上传医疗数据——如果是在同意的情况下进行的——难道不是科学进步的一部分吗？你可能会得到某种诊断，或者成为帮助更广泛诊断的一部分。** 我对此有异议，是因为这些数据掌握在极其强大的公司手中，而这些公司对世界各地受影响的人们完全不负有责任。 这就是为什么我称它们为帝国。处于顶层的人一天之内可以做出数百个决策，这些决策会产生连锁效应，而数十亿人却没有正式机制能够真正挑战、质疑或提供反馈。 从历史上看，我们已经从帝国走向了民主，因为民主是一种制度化的方式，让人民可以说出自己喜欢什么、不喜欢什么，以及他们希望如何集体治理和自我决定未来。 **你是在说这些公司的权力比政府的权力还大吗？** 它们正在变得越来越这样，绝对是的。 **即使是美国政府？** 我会说是的。最近发生了 Anthropic 与战争部之间的争执。战争部使用了核选项来试图让一家公司就范，即威胁要将该公司宣布为供应链风险。Anthropic 没有屈服。4 4 Anthropic 与五角大楼的关系在[二月破裂]（https://www.bloomberg.com/opinion/articles/2026-02-26/defense-department-anthropic-need-alignment-on-ai），当时一份价值 2 亿美元、为国防部提供专用版 Claude 的合同执行了八个月。Anthropic 试图禁止该模型用于对美国人的大规模监控或完全自主的武器系统。 **但 Anthropic 在另一方面做得很好——它占据了道德高地，并且从那一刻的公关中赢得了更多用户。** 绝对是的。这些公司愿意反抗美国政府，因为它们知道任何惩罚都可能被其他好处所抵消。 在 Mishal Husain 节目现场，与记者 Karen Hao。 Karen Hao 在彭博伦敦总部与 Mishal Husain 交谈。摄影师：Betty Laura Zapata/Bloomberg **那么请告诉我，答案是什么？你认为像教皇这样完全独立于政府政策领域的人物，是否能够提供某种路线图？5** 5五月，教宗利奥通过一份[通谕]（https://www.vatican.va/content/leo-xiv/en/events/event.dir.html/content/vaticanevents/en/2026/5/25/enciclica-magnifica-humanitas.html）介入 AI 辩论，其中写道：“我们必须避免将这类‘智能’与人类的智能等同起来的误解。”他警告“武器系统，特别是涉及 AI 的武器系统的不断发展”，并补充说“致命武力不能委托给不透明或自动化的程序”。 重要的是，社会各界的领袖，无论是宗教界的还是其他领域的，都要思考这些问题，以及在硅谷威胁到人类自主性的时代，如何最终保护它。 AI 就像“交通”这个词。“交通”涵盖了从自行车到火箭的一切。AI 指代的是大量不同的技术，有些被设计成火箭：资源密集且生产成本高昂。通常，我们只将火箭用于一小部分交通需求。我们绝不会到处说：“每个人都应该拥有一枚火箭，并用它来满足他们所有的交通需求。” 我们需要转变 AI 技术的组合，更好地反映我们解决真正社会挑战所需的专业化 AI——比如改善医疗保健和加速药物发现。 DeepMind 的 AlphaFold 是我称之为“AI 的自行车”的系统的一个例子。它能以高精度预测氨基酸序列如何折叠成蛋白质结构。这对于加速理解人类疾病和设计药物非常重要——它赢得了[诺贝尔化学奖]（https://www.bloomberg.com/opinion/articles/2024-10-09/google-deepmind-nobel-for-chemistry-showcases-ai-s-medical-potential）。AlphaFold 使用非常少的数据和非常少的计算资源，不需要劳动剥削，并且仍然能够提供很多好处。当你审视 AI 技术的组合时，难道你不想选择那些益处大、成本低的吗？6 6有趣的一点是：AlphaFold 确实需要数据来训练，就像任何 AI 工具一样，但 DeepMind 使用了[公开可用]（https://www.embl.org/news/science/alphafold-using-open-data-and-ai-to-discover-the-3d-protein-universe/）的资料来源。由此产生的蛋白质结构数据库现在[可以自由获取]（https://deepmind.google/science/alphafold/），在 190 个国家拥有超过 300 万用户。 **这些都是价值判断，不是吗？以国防领域的 AI 为例——许多军队使用它来进行目标定位。你可能认为这是错误的；其他人可能认为这是必要的。** 这是一个特别有争议的问题，人们的立场不同。 我认为，有多种不同的方式来生产 AI。你不需要通过一种腐蚀性的方法来解锁其益处。为什么我们不要求这些公司达到更高的标准？ **我注意到 Anthropic 和 OpenAI 都在准备公开上市。你认为那是一个可能带来更大问责制的时刻吗？7** 7据彭博社报道（https://www.bloomberg.com/news/articles/2026-07-15/anthropic-is-said-to-plan-ipo-investor-meetings-as-listing-nears），Anthropic 的上市最早可能在 10 月发生，而 OpenAI 则[倾向于 2027 年]（https://www.bloomberg.com/news/articles/2026-06-26/openai-weighs-ipo-in-2027-after-expected-anthropic-public-debut）。 我有希望这可能实现，因为公司上市时，确实会建立更多的治理结构。但我也对现有的上市公司提出这种批评——我称谷歌、亚马逊和微软为“AI 帝国”。 最终，治理也需要来自公众和民选的官员，而不仅仅是市场力量。 **不是创始人吗？听起来你对经营这些公司的人没有信心。你的书中有很大一部分是关于 OpenAI 和****Sam Altman****的。你是怎么认识他的？** 我在 2018 年开始为《麻省理工科技评论》报道 AI。我每周阅读科学论文，与大学和企业实验室的研究人员交谈。2019 年，我向 OpenAI 提议，该组织正在发生很多变化——他们刚刚创建了一个营利性部门——也许他们想要重新向公众介绍自己。我在该组织进行了为期三天的驻点采访。 **他们不喜欢你写的那篇** [人物特写]（https://www.technologyreview.com/2020/02/17/844721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/）**，是吗？** 他们确实不喜欢。 **你当时说，他们的实际行动与承诺之间存在错位。你看到了什么让你得出这个结论？** 他们[自称]*Open*AI，承诺透明度，但[实际上]这个组织已经非常神秘了。员工们对我能说什么、在办公室里我能去哪些地方都感到非常非常紧张，所以这看起来已经很奇怪了。他们还说过，作为非营利组织，他们永远不会将技术商业化。8 8 Hao 的人物特写发表于 2020 年 2 月，聚焦于当时 OpenAI 的三位核心人物：仍担任总裁兼联合创始人的 Greg Brockman；离开并[共同创立了 Safe Superintelligence]（https://www.bloomberg.com/news/articles/2024-06-19/openai-co-founder-plans-new-ai-focused-research-lab） 的 Ilya Sutskever；以及后来共同创立 Anthropic 的 Dario Amodei。在特写中，Hao 写道，OpenAI“让激烈的竞争和为获取更多资金而不断增长的压力侵蚀了其透明度、开放性和协作的创始理念”。 **现在他们完全营利化了，因此有了****埃隆·马斯克和山姆·奥特曼之间的官司**（https://www.bloomberg.com/news/articles/2026-05-18/elon-musk-loses-case-against-sam-altman-to-force-openai-overhaul）**。对你来说，****埃隆·马斯克是好人吗？9** 9 马斯克是 OpenAI 的联合创始人，他起诉该公司，声称其放弃了最初的非营利使命。我在[2025年5月]（https://www.bloomberg.com/features/2025-elon-musk-weekend-interview/）与他交谈时提到了这起诉讼；一年后，陪审团驳回了这些指控。 不。[*笑*] 我们常常痴迷于顶层的人物，总是试图想，“谁是好人？谁是坏人？谁是我能选择的那个不那么坏的人？”