Ed Zitron 关于 AI 怀疑论的预测有多准确？

# Ed Zitron的AI怀疑论预测有多准确？ 来源：http://danluu.com/zitron/ 我好奇地想看看这位我见过最广为引用的AI怀疑论者（Ed Zitron）的预测表现如何，于是研究了他的预测结果。先声明我的立场：我本人对AI进步从未有特别强烈的赞成或反对态度。例如，2022年我全面分析过未来学家的预测（包括Kurzweil等知名人士），发现他们在预测结果和推理逻辑上普遍错误（http://danluu.com/futurist-predictions/）。另一方面，2015年我就撰文指出人们低估了AI取代人类工作的能力（http://danluu.com/customer-service/），并多次公开表示许多人低估了AI对就业市场的冲击。我在AI问题上的立场相当乏味，基本就是："如果某件事正在发生，那些声称它绝不可能发生的人很可能是错的"。 我常听到AI怀疑论者回应批评时说：所有认为AI不虚假的人都是利己的骗子。就我个人而言（显然这对我没好处），我与AI公司没有直接经济利益关联。我通过乏味的指数基金持有常规份额的股票。我有一些种子轮投资，但因时间点和市场表现，这部分投资组合在AI领域配置不足。我不在AI实验室或为AI实验室供货的公司工作。我曾提到过自己面试表现极差，多年前确实在某AI实验室面试时连电话筛选都没通过，表现之糟糕大概启发了Jeff Atwood那篇著名的《为什么程序员不会编程？》（https://blog.codinghorror.com/why-cant-programmers-program/），文中结论是市面上肯定有很多伪程序员，因为真懂编程的人不可能在编码面试中表现那么差。AI发展得好与坏对我没有任何特殊好处，除了一切持有广泛指数基金的人所获得的常规收益，但我确实在意预测的准确性。 ### 2024年：Meta、Google和Microsoft正在走向衰亡 由于预测案例众多，我们先详细分析其中一个预测，以便了解Zitron的推理模式。我们随机选取他在2024年11月的一次访谈（https://www.youtube.com/watch?v=7Slib2bbMs4），其中他声称主要科技公司（如Meta和Google）正在衰亡，并在AI领域挣扎是因为它们不知如何增长。 Zitron特别点名Meta为衰亡企业（“这是个衰落的产品，也是家衰落的公司”）。Meta的营收和利润（GAAP营业利润）变化如下： | 时期 | 营收 | 增长率 | 利润 | 增长率 | |--------------|--------|--------|--------|--------| | 2023 | 1350亿 | 16% | 470亿 | 62% | | 2024 | 1650亿 | 22% | 690亿 | 48% | | 2025 | 2010亿 | 22% | 830亿 | 20% | | 2026年上半年 | 1170亿 | 30% | 420亿 | 10% | 当他谈到公司不知如何增长（“这些公司真正不知道如何增长……在垂死生态系统中绝望地试图重振增长时，科技行业会将这种[AI]破玩意儿强行塞入一切产品”），他点名了Google和Microsoft。Alphabet（Google母公司）的营收和利润数据如下： | 时期 | 营收 | 增长率 | 利润 | 增长率 | |--------------|--------|--------|--------|--------| | 2023 | 3070亿 | 9% | 840亿 | 13% | | 2024 | 3500亿 | 14% | 1120亿 | 33% | | 2025 | 4030亿 | 15% | 1290亿 | 15% | | 2026年上半年 | 2300亿 | 23% | 800亿 | 30% | Microsoft的数据如下（为统一标准，所有数字均为自然年而非财年数据）： | 时期 | 营收 | 增长率 | 利润 | 增长率 | |--------------|--------|--------|--------|--------| | 2023 | 2280亿 | 12% | 1010亿 | 21% | | 2024 | 2620亿 | 15% | 1180亿 | 17% | | 2025 | 3050亿 | 17% | 1430亿 | 21% | | 2026年上半年 | 1730亿 | 18% | 790亿 | 19% | 虽然这不符合Zitron的原意，但有人可以辩称Meta确实正在衰亡，只是尚未死亡。然而Zitron论证中的推理是错误的——Meta、Google和Microsoft的生态系统并未衰亡。考虑到这些公司的增长速度（营收和利润方面），AI似乎并非如他暗示的那样，是它们因“不知如何增长”和江郎才尽而采取的绝望举措。我认为无需对每个预测都花费如此多笔墨，但Zitron在此使用的推理模式具有代表性。 为了证明这些公司正在衰亡，他援引了细枝末节的问题，而这些问题根本不足以引发他预言的巨大变革。关于Meta，他引用了某种据称的Facebook月活用户下降。他没有使用Meta官方的月活数据或任何营收利润数字，似乎采用了Similarweb的第三方数据。根据我使用此类第三方追踪数据的经验，它们极不准确，除了粗略的数量级比较外几乎毫无用处，因此Zitron引用的下降数据毫无意义（Meta财报数据并未显示这种持续下降）。 关于Google，他引用了他称为真正邪恶、“背叛计算机科学家阶级、投靠管理咨询派系”的Prabhakar Raghavan，声称此人对Google搜索造成了严重损害。在抨击Raghavan的言论中，他从未可信地证明Raghavan确实对Google搜索造成重大伤害，而且发表评论的Google搜索工程师似乎也不认同“Raghavan是搜索问题唯一或主要原因”的假设（https://news.ycombinator.com/item?id=40133976）。 但即使假设Zitron正确，反派Prabhakar Raghavan击败了英雄Ben Gomes导致Google搜索出现问题，这仍然无法证明Google整体营收增长会陷入困境，因为他们还有YouTube和Google Cloud等其他主要产品，即使搜索业务不增长也能驱动增长。 这里推理链的每个关键环节不仅错误，而且如果你了解Google或大公司的运作方式，就会发现这些推理根本站不住脚。我是第一个指出Google搜索质量存在严重问题（http://danluu.com/seo-spam/），且Google多年来不断提高营收优先级而牺牲用户体验的人。2013年我在Google工作时，这正是许多以用户为中心的工程师担忧的问题。 针对Zitron提到的“广告混淆用户”问题，2013年我曾询问一位搜索工程师：关于Google将广告背景色改得更像搜索结果的做法。此前有研究表明广告越像搜索结果，用户就越难分辨是广告还是真实搜索结果，而我听说Google故意让广告看起来不像搜索结果以避免混淆。那位工程师表示，因为有些人不想让用户混淆，所以不可能通过单次调整让广告与搜索结果几乎一模一样，那样太明显了。 这个过程会这样实现：每次你通过A/B测试将广告调整得更接近搜索结果时，收入就会大幅增加，所以这种改变会在多年内分阶段进行，每次改动都小到让反对者难以提出有力反对。这位工程师预测的情况确实发生了，但这与Raghavan是否监管搜索业务无关。当然，这类事情的发生并不会导致Google增长空间耗尽、陷入绝望并试图在垂死的生态系统中重振增长。无论你是否认同Google应该这样做，这确实是增加Google收入的做法。 ### 人们如何引用Zitron？ 据我观察，人们引用Zitron的方式是：把他作为权威，声称“这位查阅数据的人做出了这种论断，因此我的观点得到了数据支持”。然而，如果你审视Zitron的主张并了解相关领域，会发现这些主张根本站不住脚，但我认为这并非关键。关键在于可以说“有人查阅了数据”。另一个点似乎是这个人充满愤怒——这是提高参与度的好方法。 但当人们提起他时，通常不是引用他的愤怒，而是说：“这位查阅了数据的人，如果你对AI感到愤怒，他会和你一起愤怒，并且他有数据支持。”如我上文所述，我不想对每个主张都进行这种深度分析；这只是说明下文预测的典型案例。在我阅读的他任何文章中，虽然数据满天飞，但这些数据实际上并未构成连贯的论证。很多情况下，正如我们所见，数据甚至无法支持他的论点（例如声称Facebook月活下降导致Meta财务问题，进而导致Meta在不恰当的地方强行植入AI）。我怀疑他利用了人们看到数据就思维涣散、不再深究数据含义的心理。 对于下文的预测，有人可能有完全相同的预测记录，但理由完全合理只是未能实现；或者有人可能每项预测都正确，但所有理由都错误。后一种人可能有某种无法言说的直觉，或者纯粹是运气好。幸运的是，我们不必做出这种艰难判断，因为Zitron的预测错误，推理也错误。 ### 注意细节的人如何看待Zitron 由于我多年来一直与世隔绝，最近才关注AI讨论（http://danluu.com/ai-coding/），我此前并未阅读或观看过Zitron或任何主要AI评论员的内容。但在查阅有识之士的观点后，我发现他们也认为Zitron对数据的运用只是障眼法，例如Juho Snellman的评论（https://news.ycombinator.com/item?id=45402639）： > 他的写作确实华丽，但那些攻击性和脏话似乎更旨在煽动已经相信他观点的人，而不是为了改变他人想法。他找到了反科技骗局这个利基市场，现在正全力利用。但你可能需要实际核查他那些说服你的内容，因为至少他的书面文章几乎全部是捏造或歪曲的。确实有很多来源链接，但如果你追溯到原始资料，会发现其内容与Zitron暗示的大相径庭。 这里有个案例，评论者似乎默认Zitron的分析可靠，Juho Snellman回复道（https://news.ycombinator.com/item?id=45404088）：关键问题在于他的经济分析糟透了。我原以为他只是能力不足，但考虑到错误的偏向性，这显然是故意欺骗。但这很难反驳，因为他每篇文章都是上万字的密集错误轰炸。我曾尝试在HN评论中揭穿他的一个故意错误，但人们抱怨回复太长。 例如，当Timothy B. Lee查看Zitron用于预测Anthropic营收的电子表格时（https://x.com/binarybits/status/2034377838883700953），他发现： > 他漏算了2月1-10日，重复计算了3月1-10日，将8月21日-10月21日算作一个月而非两个月，且未计算10月21日-11月1日。[另一评论者指出其表格包含2月30日]……Ed声称尝试计算Anthropic 2025年营收并得出36亿美元，暗示存在造假[但修正错误后数据吻合] ### Zitron的部分预测 - **2024年2月**（https://www.wheresyoured.at/sam-altman-fried/）："我认为生成式AI的发展及其输出准确性已接近上限。"——错误 - **2024年3月**（https://www.wheresyoured.at/peakai/）："我们达到AI巅峰了吗？"——另一个预测称幻觉问题意味着AI进步仅限于当前水平——错误 - **2024年4月**（https://www.wheresyoured.at/bubble-trouble/）："正如我此前警告的，人工智能公司正在耗尽数据……"——另一个预测称模型无法改进因为数据枯竭——错误 - **2024年6月**（https://www.wheresyoured.at/false-prophet/）：OpenAI增长停滞（暗示将持续停滞），将导致某种崩溃——错误（OpenAI可能崩溃，但若如此，原因不会是2024年的增长停滞） - **2024年7月**（https://www.wheresyoured.at/pop-culture/）："正如我3月所说，生成式AI已达到顶峰（若尚未达到），除了更快更多地执行现有功能外，无法实现更多突破"——错误 - **2024年7月**（https://www.wheresyoured.at/put-up-or-shut-up/）："生成式AI模型并未变得更节能，也未在提升功能性的方面变得更‘强大'"——错误 - **2024年8月**（https://www.wheresyoured.at/burst-damage/）："生成式AI是已到达顶峰的死胡同技术"——错误 - **2024年8月**（https://www.wheresyoured.at/burst-damage/）：重申AI泡沫有三个季度证明自身（自2024年3月算起），否则将崩溃——错误 - **2024年9月**（https://www.wheresyoured.at/subprimeai/）："o1表明OpenAI既绝望又无计可施"，重申模型因数据匮乏无法改进——错误 - **2024年10月**（https://www.wheresyoured.at/oai-business/）：OpenAI预测2024年营收37亿、2025年116亿、2029年1000亿美元"荒谬至极，说出这种话简直堪称金融犯罪"——错误（2025年目标已超额，2029年待观察，但远未达到金融犯罪级别的荒谬） - **2024年10月**（https://www.wheresyoured.at/oai-business/）："[OpenAI营收]增长正在放缓，并将在新年后急剧减速"——错误（OpenAI超出预期并持续快速增长） - **2024年12月**："我曾在3月警告过生成式AI已到达顶峰。"——错误（且离谱地暗示自2024年3月以来毫无进步） - **2025年1月**（https://www.wheresyoured.at/deep-impact/）："我认为AI已到达巅峰"——错误 - **2025年1月**（https://www.wheresyoured.at/deep-impact/）："DeepSeek已使[大语言模型]商品化"——错误 - **2025年2月**（https://www.wheresyoured.at/longcon/）：Anthropic 2027年345亿营收预测"在许多方面都很可笑，最主要的是OpenAI 2024年营收约为Anthropic的两倍，但该年API调用收入勉强达到十亿"——错误（无论2027年是否达成，其2026年年化收入已远超此数，使2027年预测并非可笑） - **2025年2月**（https://www.wheresyoured.at/wheres-the-money/）：Sundar Pichai希望Gemini"在2025年底前被5亿人使用"，这个数字不切实际，就像……