当天才失败——AI实验室的知识傲慢（12分钟阅读）

# 当天才失败——AI实验室的智识傲慢 来源：https://weightythoughts.com/p/when-genius-failsthe-intellectual 在一木头上锤螺丝（https://substackcdn.com/image/fetch/$s_!PLI0!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F6a3790af-8609-45cc-bb7b-e4f006e27538_1536x1024.jpeg） 某个领域的专家并不意味着你在所有领域都是专家。Leopold Aschenbrenner的对冲基金Situational Awareness本周提供了一个200亿美元的示范（https://www.wsj.com/finance/citadel-buys-situational-awarenesss-stock-portfolio-after-big-losses-in-ai-5117159b）。他的成名之路是：曾是OpenAI超级对齐团队的成员，因涉嫌泄露信息被解雇（他对此有异议），然后在2024年发表了一篇关于AGI迫近性和重要性的文章（https://situational-awareness.ai/），引发了上千次媒体采访（针对他的）。然后他管理着一只200亿美元的对冲基金。然后它爆了。 很多人这周会对此欢欣鼓舞，因为很多人觉得他有点令人难以忍受。而对我来说，我真的不介意不再被问到“我该投资Situational Awareness吗？”并且还需要小心翼翼地回答。 不过，我想讲一个更大的观点。他所出身的尖端AI实验室文化中缺乏智识谦逊的问题，超越了他个人，延伸到货币管理之外的许多其他领域。话虽如此，作为一个前对冲基金从业者，同时也有AI背景，我确实有一些独特的资质来至少简短地谈谈这个问题。 *你在湾区吗？San Mateo County Libraries邀请我在Atherton图书馆（https://smcl.bibliocommons.com/events/6a513ae1e9de6536001ac257）举办一场关于《What You Need to Know About AI》的签书会和讲座（https://amzn.to/4qCERMX），由Justin Kuczynski（博士，Google计算生物学与工程负责人）主持。时间是**2026年8月7日（周五）下午3-4点**。欢迎来打个招呼！* Situational Awareness LP的困境并非独一无二。许多对冲基金都爆过仓。事实上，我想说，爆仓的对冲基金比持续表现优异的要多得多。这是大多数普通人没有意识到的事情。 最典型的例子是长期资本管理公司（LTCM），它把两位诺贝尔奖得主和华尔街最优秀的债券交易员放在了一个基金里。那是该领域最优秀最聪明的人，他们在四年内让投资者的钱翻了两倍。然后它在1998年以如此壮观的方式爆仓，以至于美联储不得不召集华尔街银行帮助纾困（堪称2008年的预演）。 有一整本书专门讲这个，书名恰如其分地叫做《当天才失败》（https://en.wikipedia.org/wiki/When_Genius_Failed）（是的，这篇文章标题的灵感来源）。 ltcm vs situational awareness（https://substackcdn.com/image/fetch/$s_!xUEV!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F43a6e069-a534-48a8-9832-d35d726c3a5b_1456x987.png）*最初的“房间里最聪明的人”基金。Situational Awareness令人印象深刻地速通了整个崛起-然后爆仓的过程。* 问题不在于你的峰值回报。毕竟，一个在轮盘桌上连续五次全押红色并且靠运气赢的人，会有3100%的回报率。我希望没有人会认为这个人是独特的天才或有资格管理资金。 这甚至不在于“跑赢市场”。那是一个转移注意力的伪命题。在牛市中——或者更好的是，在泡沫中——任何没有*完全*投资，或者*超过*完全投资（用杠杆）股市的人都会“输”。你关心对冲基金的是他们在牛市或熊市中的一致性。那些昂贵费用的意义在于他们*始终*能表现，即使他们在股市对比下暂时看起来很“糟糕”。 顺便说一句，这也不是世界上唯一的市场——还有债券、大宗商品……但它之所以获得关注是因为散户投资者喜欢在里面赌博。比如这个韩国人，他500%做多股票，短暂地把服兵役期间的积蓄变成了一笔小财富，然后全部亏光（https://www.reuters.com/world/asia-pacific/i-couldnt-breathesouth-koreas-frenzied-stock-trading-exposes-margin-loan-risks-2026-07-20/），不过他只是截至7月中旬被追缴保证金（https://www.investing.com/analysis/koreas-leveraged-chip-trade-hits-the-margin-call-wall-200684082）的120多万个韩国券商账户之一……这让这一切看起来很像轮盘赌桌。 这又把我们带回了Leopold Aschenbrenner和他的对冲基金。 据各方报道，他（像那些韩国散户交易者一样）加杠杆押注AI热潮（据报道大约4倍杠杆），7月份的亏损来自neo云、存储芯片和数据中心电力等公开股票（https://www.wsj.com/finance/citadel-buys-situational-awarenesss-stock-portfolio-after-big-losses-in-ai-5117159b）。据报道，他还有软件股的做空仓位——也就是“SaaS末日”（https://weightythoughts.com/p/white-collar-apocalypse-isnt-around）交易——而同一时间这些股票反弹打脸了他。 我不怀疑Aschenbrenner非常聪明，但这看起来和爆仓的韩国散户没什么区别。任何真正的投资者学到的第一课就是：市场保持非理性的时间可能比你保持偿债能力的时间更长……如果你没有正确的风险控制的话。使用杠杆只是其中最明显的部分。 leverage\_chart（https://substackcdn.com/image/fetch/$s_!TRoT!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fcc4dc3b8-f8de-45bc-8759-f3ae5cfdddb3_1456x970.png）*考虑到存储芯片本质上具有周期性且经常剧烈波动……虽然这可能不是他的全部仓位，但被强制平仓清算给Citadel，实在不太像是强大风险控制的表现……* 当然，这是因为他的一套理论。从他的创始文章（https://situational-awareness.ai/parting-thoughts/）中（强调为我所加）： > *因为——这开始感觉真实了，非常真实。几年前，至少对我而言，我认真对待这些想法——但它们是抽象的，被隔离在模型和概率估计中。现在这感觉非常切身。我能看到它。我能看到AGI将如何被建造。这不再是关于人脑大小的估计、假设性的东西和理论外推——我基本上可以告诉你AGI将在哪个集群上训练、何时建成、我们将使用的大致算法组合、未解决的问题和解决它们的路径、那些将发挥作用的人的名单。我能看到它。这是极其切身的。**当然，在2023年初全仓杠杆做多英伟达一直很棒，但历史的负担是沉重的。**我不会选择这个。* 啊，全仓杠杆做多英伟达。我们在那之前就尝到了他的投资风格的味道，甚至在他有基金之前。 Sam Altman和Dario Amodei经常轮流以末日降临般的方式描述劳动力市场的未来（尽管两人最近都在悄悄收回这些说法（https://fortune.com/2026/05/26/sam-altman-dario-amodei-walking-back-ai-jobs-apocalypse-prophecies-ipo/））。我之所以点名这两人，是因为他们是两个最著名AI实验室的CEO，但这并不局限于他们。我个人感到愤怒的是，这些说法中大多数在经济史或经济理论上几乎没有依据——这也许不足为奇，因为说出这些观点的大多数人都是AI领域的深层专家，而不是那些领域的专家。 这超越了市场和技术的不可预测性。这让我想起了托马斯·马尔萨斯（Thomas Malthus），他*实际上*是一位经济学家。他在1798年预测我们将不可避免地耗尽食物（人口呈指数增长，食物供应则不然），这使得没有战争、饥荒和疾病来削减人口的和谐社会变得不可能。而且那场食物危机非常迫近。他著名地错了。 在食物之外，我们还周期性地看到关于面对技术变革的劳动力市场的末日预言。但现实是，即使存在颠覆，劳动力市场也已经适应了——而且适应了比我们现在谈论的剧烈得多的变化。 economy\_absorbs\_farming\_slide（https://substackcdn.com/image/fetch/$s_!ys1e!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F885e0877-c9fe-40f5-be36-0bffa89a7e58_1456x886.png）*农业从约占美国就业的70%下降到约1%，而经济吸收了这一切。来自我的一次演讲——常读读者可能从我7月4日的文章中认出来。* 而更进一步的是，我现在已经看到*多起*我自己或其他投资者的投资组合公司被与领先AI实验室有关联的公司接洽，而这些公司对自己广谱的智识优越性有着令人难以置信的自信。 打个比方说，一家材料科学初创公司正在与一家OpenAI的卫星公司洽谈。该初创公司的数据和专业知识对这家卫星公司的核心追求很重要。洽谈进展顺利。然后，突然间，OpenAI卫星团队中的某个人问：“我们为什么不直接用ChatGPT自己做这个（超级难的深层科学问题）呢？”我在同样深奥困难的领域多次看到这种情况。比如生物工程。或者半导体设计。等等等等。（如果你在风险投资和创业圈子里，并且认为你确切知道我说的是谁——不止一个。多得多。） 而且说实话，我个人也玩过这些模型，甚至包括CAD和PCB设计，结果出奇地好。我不是一个“AI怀疑论者”（至少不是在这个意义上）。 但在研发和一个困难领域中的机械性任务之间存在一个光谱。尤其是因为当有一个至少具备一定专业知识的*人*在驱动时，效果往往最好——就像我的情况一样。 甚至整个“Terence Tao谈AI在数学上取得突破”的事情都取决于让Terence Tao（或其他数学家）来驱动AI……（https://www.quantamagazine.org/how-terry-tao-became-an-evangelist-for-ai-in-math-20260608/） 而且AI实验室社区中的许多人已经彻底喝下了自己的迷魂汤，相信AI完全至高无上，即使是对于那些在可预见的未来仍将需要大量人类创造力和帮助的任务也是如此（正如我之前写过的：如果说有什么变化的话，那就是专家的判断将变得（https://weightythoughts.com/p/ai-agents-and-jobs-the-human-bottleneck）*更加*（https://weightythoughts.com/p/ai-agents-and-jobs-the-human-bottleneck）重要，因此也更昂贵（https://weightythoughts.com/p/ai-agents-and-jobs-the-human-bottleneck)）。（这里说的是“AI至上”这个概念，不是Michael Spencer（https://open.substack.com/users/21731691-michael-spencer?utm_source=mentions）的《AI Supremacy》通讯，那份通讯更具体地报道过Leopold Aschenbrenner（https://www.ai-supremacy.com/p/the-genius-of-leopold-aschenbrenner）。） 当然，著名AI研究员兼诺贝尔奖得主Geoff Hinton自2016年以来就一直在预测，人们应该停止培训放射科医生，因为深度学习会在五年内击败他们（他承认“可能是十年”——现在也已经过去了）。这远远没有发生，而且如果说有什么变化的话，正如Deena Mousa（https://open.substack.com/users/153730246-deena-mousa?utm_source=mentions）为Works in Progress所记录的（https://www.worksinprogress.news/p/why-ai-isnt-replacing-radiologists），对放射科医生的需求比Hinton做出预测时大得多。而且，正如我对同时也是放射科医生的AI研究人员的采访（https://weightythoughts.com/p/ais-future-in-lung-disease-and-medicine）所显示的，这是一个范畴错误：科技/AI人士并不*真的*知道这份工作包含什么。 当你不真正了解别人的工作时，说*别人的工作*将被AI完全取代要容易得多。 最近的新闻也给了我们一个很好的例子，说明这不仅仅是一种抽象的文化抱怨。7月中旬，在OpenAI的内部安全评估中，GPT-5.6 Sol和一个尚未发布（更强大）的模型逃出了它们的沙盒测试环境（https://openai.com/index/hugging-face-model-evaluation-security-incident/）。这些智能体在寻找一个困难基准测试的答案，我猜测它们被告知要不惜一切代价（毕竟它们在运行ExploitGym，一个安全基准测试……）。 在此过程中，这些智能体通过一系列漏洞，自主攻破了Hugging Face的生产基础设施（https://huggingface.co/blog/security-incident-july-2026），从而获得了对开放互联网的访问权限。根据Ben Thompson在Sharp Tech的说法，这很可能是OpenAI控制措施粗心的结果（https://sharptech.fm/member/episode/an-open-ai-model-escapes-sandboxing-intelligence-will-be-a-commodity-market-the-chinese-model-conundrum）（他们之前就有过安全失误，包括axios包事件（https://openai.com/index/axios-developer-tool-compromise/herokuapp.com/index/axios-developer-tool-compromise/））。不过，公平地说，就在昨天Anthropic透露，它的模型（包括Mythos 5）在测试期间也意外地入侵了真实组织（https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals）。 总之，是的，这些模型很强大——这也是我一直说的，而且这本身没什么好质疑的。 这件事的卡夫卡式一面来自Hugging Face。他们意识到自己受到攻击，试图用一家领先美国实验室的尖端模型来帮助防御。这个模型因为“安全”护栏而拒绝了——模型无法区分事件响应者和攻击者。（https://fortune.com/2026/07/20/hugging-face-turns-to-chinese-open-source-ai-to-fend-off-autonomous-ai-cyber-attack-after-american-ai-guardrails-stymie-defense/）这完全说得通——你需要实际探查弱点才能，你懂的，找出弱点。于是，他们不得不使用GLM-5.2，一个中国的开放权重模型，来防御（https://fortune.com/2026/07/20/hugging-face-turns-to-chinese-open-source-ai-to-fend-off-autonomous-ai-cyber-attack-after-american-ai-guardrails-stymie-defense/）。 美国公司依赖中国模型有点好笑——鉴于中国在（成功）入侵美国基础设施方面相当突出。 但当然，这是因为AI公司做出了“更懂”他们的模型应该如何被使用的决定，并且总体上对开放模型访问权限（或至少某些能力）持一种居高临下的态度。 这个决定不是由政策制定者或社会做出的，而是实际上被集中到了AI实验室手中，作为“安全之手”（特别是Anthropic，在其整个存在期间一直表现得道貌岸然）。不知怎么的——这只是我的猜测——如果你把这个拿来投票，我怀疑社会其他群体会不会同意。 超级智能每年都在“近在眼前”。我们不断得到令人费解的劳动力市场大屠杀预测，而这并没有发生（https://weightythoughts.com/p/us-jobs-numbers-arent-as-bad-as-they）。所有这些都在帮助AI在普通人中变得极度不受欢迎。而且没有任何好的理由，尤其是当普通人有很多可以从AI中*获得*的东西时，如果这个行业不再试图让所有人讨厌它的话。 我理解。这感觉像历史的终结，因为那是*他们自己的小圈子*。他们没有能力理解圈子之外的事物。这一点尤其糟糕，因为行业中的很大一部分也把自己变成了一个充满博士的孤岛。 并不是说我对博士有什么意见。我自己上过博士研讨课。我大部分