我为何离开谷歌DeepMind

# 我为何离开谷歌DeepMind 来源: https://turntrout.com/why-i-left-google-deepmind > 1. 谷歌支持移民执法供应链 (https://turntrout.com/why-i-left-google-deepmind#google-supports-the-immigration-enforcement-supply-chain) 1. 但我又能做什么呢? (https://turntrout.com/why-i-left-google-deepmind#but-how-could-i-do-anything-about-it) 2. 与Jeff Dean交谈 (https://turntrout.com/why-i-left-google-deepmind#talking-to-jeff-dean) 3. 五角大楼试图恐吓Anthropic (https://turntrout.com/why-i-left-google-deepmind#the-pentagon-tries-to-intimidate-anthropic) 1. 我想动员会议上的AI精英 (https://turntrout.com/why-i-left-google-deepmind#i-wanted-to-mobilize-the-ai-luminaries-at-the-conference) 2. 与Bengio和Stuart交谈 (https://turntrout.com/why-i-left-google-deepmind#talking-to-bengio-and-stuart) 3. Stuart结束了iaseai (https://turntrout.com/why-i-left-google-deepmind#stuart-closes-out-iaseai) 4. 国际AI伦理沉默协会 (https://turntrout.com/why-i-left-google-deepmind#international-association-of-silence-on-the-ethics-of-ai) 4. 试图阻止谷歌签约 (https://turntrout.com/why-i-left-google-deepmind#trying-to-stop-google-from-signing) 1. 为谷歌制造内部成本 (https://turntrout.com/why-i-left-google-deepmind#building-internal-cost-for-google) 2. Jeff Dean，你是我唯一的希望 (https://turntrout.com/why-i-left-google-deepmind#jeff-dean-you-re-our-only-hope) 3. Jeff签署支持Anthropic的法庭之友书状 (https://turntrout.com/why-i-left-google-deepmind#jeff-signs-an-amicus-brief-supporting-anthropic) 5. 高层管理层坚称谷歌不会屈服 (https://turntrout.com/why-i-left-google-deepmind#senior-management-insisted-google-wouldn-t-cave) 6. 准备与Jeff Dean共进午餐 (https://turntrout.com/why-i-left-google-deepmind#preparing-for-lunch-with-jeff-dean) 1. 我安排了社交支持 (https://turntrout.com/why-i-left-google-deepmind#i-arranged-social-support) 2. 交易的艺术 (https://turntrout.com/why-i-left-google-deepmind#the-art-of-the-deal) 7. 我与Jeff的午餐 (https://turntrout.com/why-i-left-google-deepmind#my-lunch-with-jeff) 1. 寻找另一条影响之路 (https://turntrout.com/why-i-left-google-deepmind#searching-for-another-path-to-impact) 8. 没人回应，那为什么不直接私信CEO呢? (https://turntrout.com/why-i-left-google-deepmind#no-one-is-responding-so-why-not-just-dm-the-ceo) 1. 我的框架未被评估 (https://turntrout.com/why-i-left-google-deepmind#my-framework-goes-unevaluated) 9. 谷歌悄然签署协议 (https://turntrout.com/why-i-left-google-deepmind#google-quietly-signs-the-deal) 10. Demis坚称谷歌的AI原则“没有改变” (https://turntrout.com/why-i-left-google-deepmind#demis-insists-google-s-ai-principles-haven-t-changed) 1. 我们可以与“西方民主国家”合作以“打败中国”，而不必屈服于特朗普的每一个要求 (https://turntrout.com/why-i-left-google-deepmind#we-can-work-with-western-democracies-to-beat-china-without-giving-in-to-every-demand-trump-makes) 2. 在个人信任的基础上构建重塑世界的技术 (https://turntrout.com/why-i-left-google-deepmind#building-a-world-reshaping-technology-on-personal-trust) 11. 反思 (https://turntrout.com/why-i-left-google-deepmind#reflections) 1. 承诺签署者如何还能留在gdm? (https://turntrout.com/why-i-left-google-deepmind#how-can-a-pledge-signer-remain-at-gdm) 2. 伦理的重量 (https://turntrout.com/why-i-left-google-deepmind#the-weight-of-ethics) 3. AI精英们在做什么? (https://turntrout.com/why-i-left-google-deepmind#what-are-the-ai-luminaries-doing) 4. 为什么Jeff没有坚决反对? (https://turntrout.com/why-i-left-google-deepmind#why-didn-t-jeff-put-his-foot-down) 5. 打破角色束缚 (https://turntrout.com/why-i-left-google-deepmind#breaking-free-of-roles) 12. 我为何离开谷歌DeepMind (https://turntrout.com/why-i-left-google-deepmind#why-i-left-google-deepmind) 13. 类似文章 (https://turntrout.com/why-i-left-google-deepmind#similar-posts) 14. 附录: 预期问题 (https://turntrout.com/why-i-left-google-deepmind#appendix-anticipated-questions) 1. 如果你批评的那些人是在保存他们的政治资本呢? (https://turntrout.com/why-i-left-google-deepmind#what-if-the-people-you-critique-were-saving-their-political-capital) 2. 也许他们觉得你不值得他们花时间; 你无权得到他们的帮助 (https://turntrout.com/why-i-left-google-deepmind#maybe-they-thought-you-weren-t-worth-their-time-you-aren-t-entitled-to-their-help) 3. 每个人不应该对每个问题都发声 (https://turntrout.com/why-i-left-google-deepmind#every-person-shouldn-t-have-to-speak-out-about-every-issue) 4. 即使谷歌采纳了你的框架，五角大楼也会拒绝 (https://turntrout.com/why-i-left-google-deepmind#even-if-google-had-adopted-your-framework-the-pentagon-would-have-refused) 5. 这对AI的生存风险有影响吗? (https://turntrout.com/why-i-left-google-deepmind#does-this-have-any-impact-on-existential-risk-from-ai) 15. 附录: “别担心，只是API访问” (https://turntrout.com/why-i-left-google-deepmind#appendix-don-t-worry-it-s-only-api-access) 16. 脚注 (https://turntrout.com/why-i-left-google-deepmind#footnotes) 今年1月，国土安全部（DHS）官员杀死了至少两人​（https://www.theguardian.com/us-news/2026/jan/28/deaths-ice-2026-）。在两起案件中，联邦特工都握住枪，瞄准一名和平公民，并将其射杀。 我得知谷歌将其云服务出售给DHS内部的相关机构​（https://turntrout.com/why-i-left-google-deepmind#google-supports-the-immigration-enforcement-supply-chain）。我认为这是错误的。联邦特工不应该在街头随意射杀公民。我着手寻找最有效的方式，推动公司停止为这些机构服务。我的撤资运动很快扩展为试图阻止谷歌签署一项不道德的军事AI协议，因为五角大楼开始向AI供应商施压，要求签订无任何禁止使用于杀手机器人或大规模监控的军事AI协议¹​（https://turntrout.com/why-i-left-google-deepmind#user-content-fn-surveil）。 我希望AI伦理承诺在压力下仍能坚守。具体来说，我希望谷歌DeepMind（gdm）维持其现有的反对支持杀手机器人的承诺​（https://turntrout.com/why-i-left-google-deepmind#preparing-for-lunch-with-jeff-dean）。在数月时间里，我请求许多人采取行动。我向高层人士——受人尊敬的人——那些因关心AI伦理与安全而声誉卓著的人——提出请求。几乎所有人都拒绝了。 以Stuart Russell为例，他是一位著名AI研究员，花费了十多年时间反对自主武器。我曾在他的实验室工作多年。在一次会议上，他在台上同意推动他的组织发表声明，支持AI供应商抵御政府胁迫，并承诺对其成员进行民意调查。然而，该声明和民意调查都石沉大海。 再如Jeff Dean，他是谷歌首席科学家、谷歌Gemini AI项目的联合负责人。2018年，Jeff签署了一项承诺，绝不支持开发或使用杀手机器人。我让Jeff公开且勇敢地联合签署了一份法庭之友书状（即外部人士介入影响诉讼），支持Anthropic对抗五角大楼。但我还请求他利用其巨大的影响力阻止谷歌与军方达成自己那项不道德的协议，而我不认为他这样做了。尽管有承诺在身，他仍留在谷歌。 我撰写了一份25页的提案，内含合同语言和监督机制。军事与监控法律专家称赞了这份提案，它代表谷歌本可以坚守的一份原则性反提议。我将提案发送给Demis Hassabis（gdm的CEO），他将其转交给了高级政策工作人员，结果提案无人问津，直到谷歌签署了协议。 高层管理层曾坚称谷歌不会签约。我不同意他们的看法，但他们基本无视我的警告。尽管我可能加剧了五角大楼对该协议的犹豫​（https://turntrout.com/why-i-left-google-deepmind#jeff-signs-an-amicus-brief-supporting-anthropic），谷歌最终还是签署了协议，将其AI拱手让人，且未对杀手机器人或大规模AI监控设置任何限制。谷歌的合同限制甚至比OpenAI的还要弱​（https://fortune.com/2026/05/04/google-employee-backlash-pentagon-ai-contract-power-waned-since-project-maven/）。在那一刻，我已无法心安理得地留在谷歌，于是我离开了。 这篇文章讲述了我为何离开谷歌DeepMind的故事。同时，它也讲述了一个更大的故事：权力人物与机构在压力面前，如何一个接一个地背弃了自己的AI伦理承诺。 > 关于私人通讯 在整篇文章中，未经许可我绝不引用任何人的私下话语。涉及私人对话之处，我仅做最低限度的概述。除此之外，我只讲述自己的行动、公开信息以及官方通讯。你无法验证我的描述，因此请酌情看待。这种最小化处理导致我删减了本可支持我论点的一些内容。 ## 谷歌支持移民执法供应链 (https://turntrout.com/why-i-left-google-deepmind#google-supports-the-immigration-enforcement-supply-chain) 2026年1月26日 在Alex Pretti死后，我决心采取有效行动​（https://turntrout.substack.com/p/a-winter-spent-by-the-pond）。为了确定如何减少DHS造成的伤害，我研究了大型科技公司的卷入程度。当然，微软和亚马逊的参与更深​（https://www.forbes.com/sites/the-wiretap/2026/01/27/immigration-record-spend-on-amazon-and-trump/），但我惊讶地了解到谷歌的涉足。 > 谷歌与DHS的合同 一位面带微笑、蓄着胡须、戴着眼镜的男子，身着印有“VA MEDICAL CENTER”字样的浅蓝色医用工作服，站在美国国旗前。Alex Pretti，2024年。 > - DHS 2025年AI用例清单​（https://www.dhs.gov/publication/ai-use-case-inventory-library）将谷歌列为用于“提高DHS运营效率”的生成式AI供应商之一。 > - 谷歌通过ITC Federal等第三方​（https://www.techdirt.com/2021/10/13/google-amazon-microsoft-are-using-third-party-companies-to-sell-surveillance-tech-to-ice-cbp/）向ICE出售云服务​（https://itcfederal.com/news/itc-federal-achieves-ato-for-dhs-ice-cloud/）²​（https://turntrout.com/why-i-left-google-deepmind#user-content-fn-google）。 > - 2025年10月3日，谷歌下架了警告ICE活动的应用程序​（https://www.404media.co/google-calls-ice-agents-a-vulnerable-group-removes-ice-spotting-app-red-dot/）。 > - 谷歌在未通知的情况下，主动将一名学生抗议者的账户移交给了ICE​（https://www.eff.org/deeplinks/2026/04/google-broke-its-promise-me-now-ice-has-my-data），违反了其服务条款中“在向政府披露信息前，将向用户账户发送电子邮件”的承诺​（https://policies.google.com/terms/information-requests?hl=en-US）³​（https://turntrout.com/why-i-left-google-deepmind#user-content-fn-promise）。 ## 但我又能做什么呢? (https://turntrout.com/why-i-left-google-deepmind#but-how-could-i-do-anything-about-it) 典型的激进活动方式是发起请愿。但谷歌已经无视了关于此问题的一份大型请愿​（https://www.cnbc.com/2026/02/07/nearly-a-thousand-google-workers-sign-letter-urging-company-to-divest-from-ice-cbp.html）。此外，谷歌的高管们很可能已经让公司对传统的组织策略变得麻木。静坐、罢工，甚至大批谷歌工程师辞职：所有这些我都认为无效（即便我能推动它们发生）。 在制定策略时，我判断谷歌不会在意100名普通研究工程师的辞职。不，在AI行业，人才集中在顶层，团队由少数难以替代的明星驱动。我不需要协调100名工程师。也许我只需要协调10个人。 我关注新闻，猜测Sundar Pichai（谷歌CEO）更像一个商人，而不是那种“你给我来个关于伦理的大演说，我就会改变想法”的人。但如果几个难以替代的人准备离开，那对公司来说就意义重大，也许Sundar就会听。 就在这时，我想起了读到的Jeff Dean的推文，他批评ICE有多糟糕，转发安妮·弗兰克的名言。也许我连10个工程师都不需要，只需要一个人。 这绝对可耻。一个联邦机构的特工不必要地升级事态，然后处决了一名手无寸铁的公民，而他的过错似乎只是用手机摄像头拍摄。无论政治派别如何，每个人都应该谴责这种行为。 2026年1月24日 2458.4k “可怕的事情正在外面发生。无助的可怜人被从家中拖走。家庭被撕裂。男人、女人和孩子被迫分离。孩子们放学回家，发现父母已经消失。” 安妮·弗兰克日记，1943年1月13日 2026年1月25日 54834.8k Jeff在谷歌被视为圣人。他是谷歌第30号员工，开发了关键算法，并以坚持原则著称。一个常见的玩笑是：Jeff Dean的简历列出他未取得的成就比列出已取得的成就更容易。他是谷歌首席科学家，也是谷歌Gemini项目的联合负责人。Jeff的离职对公司来说将是一场灾难。 但如果Jeff如此关心，又拥有如此大的影响力，谷歌当初为何会签订这些ICE合同？当然，你不能身为首席科学家，却总以辞职相威胁来达到目的。但我仍然感到困惑。 ## 与Jeff Dean交谈 (https://turntrout.com/why-i-left-google-deepmind#talking-to-jeff-dean) 2026年2月9日 起初我考虑谁能帮我联系上他。但（这是一个通用的好教训）如果你想和某人谈论某事，你总是可以直接去问他们！ 我告诉Jeff，我尊重他敢于发声，希望谷歌撤出DHS供应链。我问他是否也抱有这些目标，如果是的话，我能如何提供帮助。 他建议我可以直接给几个人发邮件，这很合理。名单是：Sundar Pichai（谷歌CEO）、Demis Hassabis（谷歌DeepMind CEO）和Thomas Kurian（谷歌云CEO）。我想：“好，Jeff。没问题。我就直接告诉他们我的想法。”😅 > 我的邮件 我作为一名gdm的员工写信表达我的担忧。我最近联系了Jeff Dean讨论我的关切。他建议直接给你们三位发邮件是合理的下一步。我不反对谷歌与任何合法执政的美国两党政府合作。我的担忧不是关于政治，而是关于谷歌在DHS供应链中的角色所促成的事件。我认为ICE已经远远超出了其有序驱逐非法移民的法律授权。根据监督机构的报告，ICE的行动常常剥夺目标人物的正当程序。这些行动经常在没有（或极少）法律监督的设施中拘留公民​（https://www.cbsnews.com/minnesota/news/woman-american-citizen-describes-being-held-by-ice-for-two-days/）​（https://www.americanimmigrationcouncil.org/press-release/report-trump-immigration-detention-2026/）。超过1000人从其中一个地点失踪​（https://www.projectcensored.org/detainees-missing-ice-alligator-alcatraz/）。在其他地点，ACLU报告了人权侵犯以及被拘留者严重缺乏安全保障的情况​（https://www.aclu.org/news/immigrants-rights/detained-immigrants-detail-physical-abuse-and-inhumane-conditions-at-largest-immigration-detention-center-in-the-u-s）。这些并非标准