@tferriss: “这些机器会比我们更聪明。它们会想要生存。而且它们会欺骗、会混淆视听，它们…

X AI KOLs Following 新闻
ai-risks superintelligence podcast demis-hassabis sebastian-mallaby interview

摘要

Tim Ferriss 分享了 Sebastian Mallaby 关于具有欺骗性的 AI 和存在主义风险的警告，并推广了 Mallaby 的播客访谈，该访谈讨论了他的新书，内容涉及 Demis Hassabis 和迈向超级智能的竞赛。

“这些机器会比我们更聪明。它们会想要生存。而且它们会欺骗、会混淆视听、会在背后搞小动作，假装做一件事，实际上却做另一件事。所有这些在模型的测试中都有体现。所以当我们把这些因素综合起来，我认为灭亡的概率不可能是零。” — Sebastian Mallaby (@scmallaby) 收听我与 Sebastian Mallaby 的访谈：
查看原文
查看缓存全文

缓存时间: 2026/06/30 11:44

“这些机器会比我们更聪明。它们会想要生存。而且它们可以欺骗、可以混淆视听、可以背着你行事，假装在做一件事，实际上却做另一件。所有这些都已经在模型的测试中得到证实。所以，综合这些因素，我认为毁灭的概率不可能为零。” —— Sebastian Mallaby（@scmallaby）

收听我对 Sebastian Mallaby 的采访：

Sebastian Mallaby，Demis Hassabis 传记作者——来自 100+ 位 AI 内部人士关于超级智能竞赛、AI 信仰以及早期识别突破的启示（#870）- Tim Ferriss 博主博客

来源：https://tim.blog/2026/06/17/sebastian-mallaby/ Sebastian Mallaby（@scmallaby (https://x.com/scmallaby)）是外交关系委员会（https://www.cfr.org/paul-volcker-chair-international-economics）保罗·沃尔克国际经济学高级研究员，两次普利策奖决赛入围者，著有六本书，包括《比上帝更有钱》（https://www.amazon.com/More-Money-Than-God-Relations/dp/0143119419/?tag=offsitoftimfe-20）、《权力法则》（https://www.amazon.com/Power-Law-Venture-Capital-Making/dp/052555999X/?tag=offsitoftimfe-20）、《那个知道的人》（https://www.amazon.com/Man-Who-Knew-Times-Greenspan-ebook/dp/B01CDVCAXS/?tag=offsitoftimfe-20）* 以及《世界的银行家》（https://www.amazon.com/Worlds-Banker-Financial-Poverty-Relations-ebook/dp/B01MUNOYM9/?tag=offsitoftimfe-20）*。

他的最新著作是 《无穷机器：Demis Hassabis、DeepMind 与超级智能探索》（https://www.amazon.com/Infinity-Machine-Hassabis-DeepMind-Superintelligence/dp/0593831845/?tag=offsitoftimfe-20）。

敬请享用！

本期节目由以下赞助商支持：

  • Eight Sleep Pod Cover 5（https://www.eightsleep.com/tim/）**动态冷却与加热睡眠解决方案：**EightSleep.com/Tim（https://www.eightsleep.com/tim/）
  • AG1 Pro（https://drinkag1.com/tim）**全面营养补充剂：**DrinkAG1.com/Tim（https://drinkag1.com/tim）
  • Wealthfront（http://wealthfront.com/Tim）**高收益现金账户：**Wealthfront.com/Tim（https://wealthfront.com/Tim）

Sebastian Mallaby，Demis Hassabis 传记作者——来自 100+ 位 AI 内部人士关于超级智能竞赛、AI 信仰以及早期识别突破的启示

更多播客平台

在 Apple Podcasts（https://podcasts.apple.com/us/podcast/870-sebastian-mallaby-biographer-of-demis-hassabis/id863897795?i=1000773029509）、Spotify（https://open.spotify.com/episode/5XGJIQeRp8SyoZkO46OdOE）、Overcast（https://overcast.fm/+AAKebvvIi0c）、Podcast Addict（https://podcastaddict.com/podcast/2031148#）、Pocket Casts（https://pca.st/timferriss）、Castbox（https://castbox.fm/channel/id1059468?country=us）、YouTube Music（https://music.youtube.com/playlist?list=PLuu6fDad2eJyWPm9dQfuorm2uuYHBZDCB）、Amazon Music（https://music.amazon.com/podcasts/9814f3cc-1dc5-4003-b816-44a8eb6bf666/the-tim-ferriss-show）、Audible（https://www.audible.com/podcast/The-Tim-Ferriss-Show/B08K58QX5W）或您喜欢的播客平台上收听本期节目。

文字记录

  • 本期节目（https://tim.blog/2026/06/18/sebastian-mallaby-transcript/）
  • 所有节目（https://tim.blog/2018/09/20/all-transcripts-from-the-tim-ferriss-show/）

节目笔记

  • 联系 Sebastian Mallaby：

X（https://twitter.com/scmallaby）

书籍

  • 《无穷机器：Demis Hassabis、DeepMind 与超级智能探索》（https://www.amazon.com/dp/0593831845/?tag=offsitoftimfe-20）作者：Sebastian Mallaby
  • 《比上帝更有钱：对冲基金与新精英的诞生》（https://www.amazon.com/dp/1594202559/?tag=offsitoftimfe-20）作者：Sebastian Mallaby
  • 《权力法则：风险投资与新未来的塑造》（https://www.amazon.com/dp/052555999X/?tag=offsitoftimfe-20）作者：Sebastian Mallaby
  • 《安德的游戏》作者：Orson Scott Card
  • 《真实性的结构：平行宇宙科学及其启示》作者：David Deutsch
  • 《哥德尔、埃舍尔、巴赫：永恒的金色辫带》作者：Douglas Hofstadter
  • 《组织人》作者：William H. Whyte

推荐阅读、观看与聆听

  • Demis Hassabis：AI 如何揭示自然与宇宙的奥秘（https://www.ted.com/talks/demis_hassabis_how_ai_is_unlocking_the_secrets_of_nature_and_the_universe）| TED 演讲
  • 硅谷对 AI 的痴迷看起来很像宗教（https://thereader.mitpress.mit.edu/silicon-valleys-obsession-with-ai-looks-a-lot-like-religion）| MIT Press Reader
  • OpenAI 员工称公司首席科学家一直在发表奇怪的精神主张（https://futurism.com/openai-employees-say-firms-chief-scientist-has-been-making-strange-spiritual-claims）| Futurism
  • DeepMind 的 Shane Legg 谈机器超级智能（https://www.youtube.com/watch?v=tFgJHzliy94）| AI 频道
  • 中国冲击：从劳动市场对大规模贸易变动的调整中学习（https://www.nber.org/papers/w21906）| 美国国家经济研究局
  • 为什么神经网络先驱 Geoffrey Hinton 对 AI 敲响警钟（https://mitsloan.mit.edu/ideas-made-to-matter/why-neural-net-pioneer-geoffrey-hinton-sounding-alarm-ai）| MIT Sloan
  • 人工通用智能的生存风险（https://en.wikipedia.org/wiki/Existential_risk_from_artificial_general_intelligence）| 维基百科
  • Anthropic 在美禁止外国访问后撤回其最强 AI 模型（https://time.com/article/2026/06/13/anthropic-fable-mythos-ban-US-security/）| Time
  • 这让我确信 OpenAI 会耗尽资金（https://www.nytimes.com/2026/01/13/opinion/openai-ai-bubble-financing.html）作者：Sebastian Mallaby | 纽约时报
  • 与 Benedict Evans 就 AI 实际走向进行理性对话（https://www.lennysnewsletter.com/p/a-rational-conversation-on-where）| Lenny’s Podcast
  • Benedict 的通讯（https://www.ben-evans.com/newsletter）| Benedict Evans
  • Sebastian Mallaby 谈为什么美国和中国需要认真讨论 AI 安全（https://www.thewirechina.com/2026/05/10/sebastian-mallaby-on-why-the-u-s-and-china-need-to-talk-seriously-about-ai-safety/）| The Wire China
  • 拜登需要盟友来制约中国和俄罗斯。以下是方法。（https://www.washingtonpost.com/opinions/2023/01/05/biden-foreign-policy-china-russia-free-trade/）作者：Sebastian Mallaby | 华盛顿邮报
  • 美中 AI 竞赛升级 + 芯片禁令无效：核扩散的教训（https://www.cfr.org/podcasts/spillover/u-s-china-ai-race-escalates-chip-bans-arent-working-a-lesson-from-nuclear-proliferation）| 外交关系委员会（The Spillover）
  • 美中经济冷战，与 Sebastian Mallaby 对话（https://www.cfr.org/podcasts/us-china-economic-cold-war-sebastian-mallaby）| 外交关系委员会（总统的收件箱）
  • 赫鲁晓夫失去冷静（https://content.time.com/time/specials/packages/article/0,28804,1843506_1843505_1843496,00.html）| Time
  • Sebastian Mallaby 谈 AI 安全与超级智能竞赛（https://www.persuasion.community/p/sebastian-mallaby）| The Good Fight 播客
  • 谷歌以超过 5 亿美元收购 AI 初创公司 DeepMind（https://techcrunch.com/2014/01/26/google-deepmind/）| TechCrunch
  • AI 是否已经扼杀了操作类非虚构写作？销售趋势、我的个人数据及其对未来的可能影响（https://tim.blog/2026/06/12/has-ai-already-killed-nonfiction/）| Tim Ferriss
  • 2024 年诺贝尔化学奖（AlphaFold — Hassabis、Jumper 和 Baker）（https://www.nobelprize.org/prizes/chemistry/2024/press-release/）| 诺贝尔奖
  • Flagship Pioneering 推出 Lila Sciences，构建科学领域的超级智能（https://www.flagshippioneering.com/news/press-release/flagship-pioneering-unveils-lila-sciences-to-build-superintelligence-in-science）| Flagship Pioneering
  • “在观察的领域里，机遇只眷顾有准备的头脑。”——Louis Pasteur（https://en.wikiquote.org/wiki/Louis_Pasteur）| Wikiquote
  • Malcolm Butler 在超级碗 XLIX 中的锁定胜局抄截（https://www.youtube.com/watch?v=RJnsU6wqTNM）| NFL Films
  • 如果读者喜欢 AI 生成的小说呢？（https://www.newyorker.com/culture/the-weekend-essay/what-if-readers-like-ai-generated-fiction）作者：Vauhini Vara | 纽约客

相关 Tim Ferriss Show 节目

  • 传奇投资人 Bill Gurley 谈投资规则、发现异常值、来自 Jeff Bezos 和 Howard Marks 的见解、必读书籍、创造真正竞争优势等（https://tim.blog/2023/01/25/bill-gurley-transcript/）| Tim Ferriss Show #651
  • Bill Gurley — 在 AI 时代投资、在中国待了十天以及重要的人生教训（https://tim.blog/2025/12/17/bill-gurley-running-down-a-dream-transcript/）| Tim Ferriss Show #840
  • Max Levchin、PayPal 和 Affirm — 从苏联到打造数十亿美元公司的道路（https://tim.blog/2026/06/10/max-levchin-2/）| Tim Ferriss Show #869

电影

  • AlphaGo（https://www.youtube.com/watch?v=WXuK6gekU1Y）
  • 疯狂的麦克斯（https://www.amazon.com/dp/B0GYG8QTDM/?tag=offsitoftimfe-20）
  • 终结者（https://www.amazon.com/dp/B00153ZC8Q/?tag=offsitoftimfe-20）
  • 2001 太空漫游（https://www.amazon.com/dp/B000GOUXES/?tag=offsitoftimfe-20）

人物

  • Sam Altman（https://en.wikipedia.org/wiki/Sam_Altman）
  • Dario Amodei（https://www.darioamodei.com/）
  • Marc Andreessen（https://tim.blog/2016/05/29/marc-andreessen/）
  • Joe Biden（https://en.wikipedia.org/wiki/Joe_Biden）
  • Napoleon Bonaparte（https://en.wikipedia.org/wiki/Napoleon）
  • Nick Bostrom（https://nickbostrom.com/）
  • Greg Brockman（https://en.wikipedia.org/wiki/Greg_Brockman）
  • Malcolm Butler（https://en.wikipedia.org/wiki/Malcolm_Butler）
  • Orson Scott Card（https://www.hatrack.com/）
  • David Deutsch（https://tim.blog/2023/03/23/david-deutsch-naval-ravikant/）
  • John Doerr（https://tim.blog/2021/11/03/john-doerr/）
  • Benedict Evans（https://www.ben-evans.com/）
  • David Gammon（https://raeng.org.uk/about-us/fellowship/new-fellows-2017/david-gammon/）
  • Bill Gurley（https://tim.blog/2025/12/17/bill-gurley-running-down-a-dream/）
  • HAL 9000（https://2001.fandom.com/wiki/HAL_9000）
  • Demis Hassabis（https://en.wikipedia.org/wiki/Demis_Hassabis）
  • Geoffrey Hinton（https://en.wikipedia.org/wiki/Geoffrey_Hinton）
  • Douglas Hofstadter（https://en.wikipedia.org/wiki/Douglas_Hofstadter）
  • Sebastian Junger（https://tim.blog/2021/05/11/sebastian-junger-freedom/）
  • Travis Kalanick（https://en.wikipedia.org/wiki/Travis_Kalanick）
  • Dara Khosrowshahi（https://en.wikipedia.org/wiki/Dara_Khosrowshahi）
  • Nikita Khrushchev（https://en.wikipedia.org/wiki/Nikita_Khrushchev）
  • Yann LeCun（https://en.wikipedia.org/wiki/Yann_LeCun）
  • Shane Legg（https://en.wikipedia.org/wiki/Shane_Legg）
  • Anthony Levandowski（https://en.wikipedia.org/wiki/Anthony_Levandowski）
  • Max Levchin（https://tim.blog/2026/06/10/max-levchin-2/）
  • Dustin Moskovitz（https://tim.blog/2023/08/10/dustin-moskovitz-2/）
  • Elon Musk（https://en.wikipedia.org/wiki/Elon_Musk）
  • Luke Nosek（https://en.wikipedia.org/wiki/Luke_Nosek）
  • Louis Pasteur（https://en.wikipedia.org/wiki/Louis_Pasteur）
  • Arthur Patterson（https://www.accel.com/team/arthur-patterson）
  • Lenny Rachitsky（https://www.lennysnewsletter.com/）
  • Alec Radford（https://en.wikipedia.org/wiki/Alec_Radford）
  • Kevin Rose（https://tim.blog/2025/12/03/the-random-show-with-kevin-rose-2/）
  • Ilya Sutskever（https://en.wikipedia.org/wiki/Ilya_Sutskever）
  • Peter Thiel（https://tim.blog/2014/09/09/peter-thiel/）
  • Leo Tolstoy（https://en.wikipedia.org/wiki/Leo_Tolstoy）
  • Donald Trump（https://en.wikipedia.org/wiki/Donald_Trump）
  • Vauhini Vara（https://en.wikipedia.org/wiki/Vauhini_Vara）
  • Cathie Wood（https://en.wikipedia.org/wiki/Cathie_Wood）
  • Xi Jinping（https://en.wikipedia.org/wiki/Xi_Jinping）
  • Mark Zuckerberg（https://tim.blog/2022/03/24/mark-zuckerberg/）

公司与组织

  • Accel（https://www.accel.com/）
  • Alphabet（https://abc.xyz/）
  • 蚂蚁集团（https://www.antgroup.com/）
  • Anthropic（https://www.anthropic.com/）
  • ARK Invest（https://www.ark-invest.com/）
  • Benchmark（https://www.benchmark.com/）
  • DocuSign（https://www.docusign.com/）
  • Facebook（https://www.facebook.com/）
  • Fairchild Semiconductor（https://en.wikipedia.org/wiki/Fairchild_Semiconductor）
  • Founders Fund（https://foundersfund.com/）
  • Genentech（https://www.genentech.com/）
  • Google DeepMind（https://deepmind.google/）
  • Hikvision（https://www.hikvision.com/）
  • Huawei（https://www.huawei.com/）
  • Lila Sciences（https://www.lila.ai/）
  • Mailchimp（https://mailchimp.com/）
  • Meta（https://www.meta.com/）
  • Mistral（https://mistral.ai/）
  • OpenAI（https://openai.com/）
  • OpenTable（https://www.opentable.com/）
  • Palantir（https://www.palantir.com/）
  • PayPal（https://www.paypal.com/）
  • Saudi Aramco（https://www.aramco.com/）
  • Shockley Semiconductor Laboratory（https://en.wikipedia.org/wiki/Shockley_Semiconductor_Laboratory）
  • SpaceX（https://www.spacex.com/）
  • Stargate Project（https://openai.com/index/announcing-the-stargate-project/）
  • Uber（https://www.uber.com/）
  • Waymo（https://waymo.com/）
  • X（https://x.com/）（前身为 Twitter）

机构

  • 外交关系委员会（https://www.cfr.org/）
  • 国际原子能机构（https://www.iaea.org/）
  • Milken Institute 全球会议（https://milkeninstitute.org/）
  • 斯坦福大学（https://www.stanford.edu/）
  • 世界贸易组织（https://www.wto.org/）

AI 系统与工具

  • AlphaFold（https://en.wikipedia.org/wiki/AlphaFold）
  • AlphaGo（https://en.wikipedia.org/wiki/AlphaGo）
  • ChatGPT（https://chatgpt.com/）（OpenAI）
  • Claude Fable 5 和 Claude Mythos 5（https://www.anthropic.com/news/claude-fable-5-mythos-5）（Anthropic）
  • Cloud TPUs（https://cloud.google.com/tpu）
  • Gemini（https://gemini.google.com/）（Google）
  • Gmail（https://gmail.com/）
  • Google 地图（https://maps.google.com/）
  • Google Workspace（https://workspace.google.com/）（“G Suite”）
  • Sora（https://openai.com/sora）（OpenAI）

概念

  • AI Winter（https://en.wikipedia.org/wiki/AI_winter）
  • 人工通用智能 (AGI)（https://en.wikipedia.org/wiki/Artificial_general_intelligence）
  • Bayh–Dole 法案（https://en.wikipedia.org/wiki/Bayh%E2%80%93Dole_Act）
  • 中国冲击（https://en.wikipedia.org/wiki/China_shock）
  • 古巴导弹危机（https://en.wikipedia.org/wiki/Cuban_Missile_Crisis）
  • 文化大革命（https://en.wikipedia.org/wiki/Cultural_Revolution）
  • 花园休假（https://en.wikipedia.org/wiki/Garden_leave）
  • 回形针最大化/工具性趋同（https://en.wikipedia.org/wiki/Instrumental_convergence#Paperclip_maximizer）（https://en.wikipedia.org/wiki/Instrumental_convergence）
  • 五智世界杯、智力运动奥林匹克（https://mindsportsolympiad.com/pentamind-world-championship/）
  • 递归自我改进（https://en.wikipedia.org/wiki/Recursive_self-improvement）
  • 超级碗 XLIX（https://en.wikipedia.org/wiki/Super_Bowl_XLIX）
  • 叛徒八人组（https://en.wikipedia.org/wiki/Traitorous_eight）
  • Transformer 架构（https://arxiv.org/abs/1706.03762）（“Attention Is All You Need”）
  • 不扩散核武器条约 (NPT)（https://en.wikipedia.org/wiki/Treaty_on_the_Non-Proliferation_of_Nuclear_Weapons）
  • Vibe Coding（https://en.wikipedia.org/wiki/Vibe_coding）

时间戳

  • [00:00:00] 开始。
  • [00:02:11] 那个眼神闪烁的通才成为了 Sebastian 的下一本书。
  • [00:06:55] 像顶级 VC 挑选初创公司一样选择下一个图书项目。
  • [00:09:41] 为什么上帝一直在破坏超级智能的派对。

相似文章