硅谷下一批IPO亿万富翁即将诞生。非营利组织已做好准备迎接他们

# 硅谷即将诞生下一波IPO亿万富翁，非营利组织已做好准备 来源：https://www.wired.com/story/nonprofits-are-getting-ready-for-the-funding-anthropalypse/ 十年前，Ryan Carrier 还是一位失败的避险基金经理人，当时他眼看着AI系统开始失控。Facebook的算法动摇了美国大选 (https://www.wired.com/2016/11/facebook-won-trump-election-not-just-fake-news/)，微软的一个聊天机器人 (https://www.wired.com/2016/03/fault-microsofts-teen-ai-turned-jerk/) 说大屠杀是“编造的”，特斯拉的Autopilot系统导致首位驾驶员死亡 (https://www.wired.com/story/tesla-ntsb-autopilot-crash-death/)。Carrier说：“当时没有治理、监督或问责机制。”在他看来，等待他孩子们的AI未来一片黯淡。 同年，Carrier创立了非营利组织ForHumanity，致力于开发审计AI系统的工具。但自2016年以来，该组织仅筹集了数十万美元，在行业内仍是小角色。然而，这种情况可能很快改变，因为ForHumanity现在也是全球众多试图约束AI、让动物脱离牢笼、消除贫困与疾病、以及推广民主的非营利组织之一，这些组织都渴望从被广泛预期为数十年来最大的一波慈善浪潮中分得一杯羹。 两家估值接近万亿美元的AI公司，ChatGPT的开发商OpenAI (https://www.wired.com/story/openai-confidentially-files-for-ipo/) 和Claude的创造者Anthropic (https://www.wired.com/story/anthropic-files-s1-ipo-sec/)，预计很快将上市，这将使数百名现任和前任员工变得极其富有。其中一些人认同一种被称为“有效利他主义” (https://www.wired.com/story/will-macaskill-longtermism/) 的哲学，该哲学鼓励尽早而非推迟进行有影响力的捐赠。 Anthropic的七位创始人已承诺捐赠 (http://darioamodei.com/essay/the-adolescence-of-technology) 其80%的财富，并且公司已同意，根据员工入职时间并按一定上限，为员工承诺捐赠的每一股匹配一股或三股。 一位科技行业内部人士 (https://nanransohoff.substack.com/p/the-third-wave-of-american-philanthropy) 的粗略估计表明，Anthropic的IPO（可能发生在九月）仅慈善捐赠一项就可能每年带来150亿美元。这足以使美国年度总捐赠额提高约2.5%，相当于增加了四位比尔·盖茨（世界上最大的捐赠者之一）的捐赠量。Anthropic拒绝就其员工预留的捐赠总额以及可能受益的组织发表评论。 所有这些资金远未得到保证。IPO可能会延迟或表现不佳，导致员工紧握财富不放。行业观察人士还担心，过多的慈善选择以及人们天生的善变，可能促使员工为自己保留比预期更多的财富。 但对于潜在捐赠者注意力的争夺已经非常激烈。Jack Lewars是一位顾问，去年曾为13位科技和金融界的超级富豪提供慈善捐赠建议。他说他听说AI实验室的员工每周会收到多达20封来自寻求捐赠团体的主动邮件。 WIRED采访了18个非营利组织，并接触了数十个组织，询问它们如何为潜在的慈善资金意外之财做准备。没有一个组织承认发送了冷邮件——Lewars在他的新博客 *The Funding Anthropalypse* 中写道，这种策略 (https://fundinganthropalypse.com/p/how-not-to-fundraise-from-anthropic)“几乎不可能奏效”。相反，这些组织表示，他们正在加大招聘、培训、营销和自动化使用力度，以使自己能够吸引巨额资金并迅速投入使用。一个教育非营利组织的招聘信息 (https://job-boards.greenhouse.io/educate/jobs/8041675) 甚至明确将建立与Anthropic的关系列为优先事项。 “每个人都会去追逐这些资金，”资助机构Foresight Institute的联合创始人Christine Peterson说，她声称该机构已从Anthropic员工那里获得了资金。“这将是一次疯狂的旅程。” ## 内部优势 与许多接受WIRED采访的非营利组织领导人一样，ForHumanity的Carrier表示，他更关注工作本身而非筹款。但他认识到这可能是一个转变的时刻，并开始思考如何进入旧金山的IPO派对。“我只需要进入那个房间，”Carrier说。 非营利组织AI4ALL的CEO Bo Young Lee表示，她正在参加更多活动，发布更多研究，并请董事会成员（如AI科学家兼企业家Fei-Fei Li）介绍她认识AI实验室的员工。她的组织培训全美国的年轻人如何开发自己的AI模型，旨在使科技劳动力多样化。Lee表示，她正在设定“雄心勃勃”的筹款目标，因为她相信资金会来，尽管介绍性会议尚未实现。 Buck Shlegeris是总部位于加州伯克利的非营利组织Redwood Research的CEO，该组织是越来越多致力于广义AI安全的小型组织之一。在他看来，瞄准个人捐赠者并非最佳策略。 Redwood已从Coefficient Giving和Survival and Flourishing Fund等资助机构获得了数百万美元，这些机构汇集个人捐款并支持有效利他主义运动。Shlegeris认为，新资金将流向这些中介机构，然后继续流向Redwood和其他组织。 他表示，他希望加快培训员工成为管理者，期望大量资金能使团队壮大并承担“极其昂贵的项目”，例如自动化安全研究和训练Redwood自己的模型。该非营利组织的总体目标是最大限度地降低AI可能以某种方式导致人类灭绝的风险，Shlegeris表示他担心这种可能性“非常大”。 AI安全研究的一个子集集中在防止该技术被用于制造生物武器。风险投资家Geoff Ralston最近帮助撰写了一份行动计划 (https://bioactionplan.org/)，该计划呼吁在未来五年内筹集25亿美元以应对AI生物安全。他计划向那些将从IPO意外之财中受益的人募集捐款。“前沿实验室的人比任何人都更了解AI造成的威胁向量，”Ralston说。 在有效利他主义圈子中颇具影响力的几家资助机构正在为这波捐赠浪潮做准备，帮助较新的非营利组织提升其行政和簿记水平。目标是确保更多组织准备好使用预期的捐赠流入。“我们正试图在船到达之前建造港口，”Animal Charity Evaluators的执行董事Stien van der Ploeg说。该组织在过去一年中帮助引导了约1500万美元流向那些试图减少他们认为最恶劣的农场虐待行为的非营利组织。 同样，Coefficient正在努力支持后起之秀。本月，其最大捐赠者、Facebook联合创始人Dustin Moskovitz及其妻子Cari Tuna承诺向全球健康项目捐赠10亿美元 (https://www.wired.com/story/elie-hassenfeld-givewell-ea/)。根据Coefficient的说法，这是一次“一次性激增”，规模比最初计划的大了近六倍，但其意图是创造“可扩展的机会”，能够“有效吸收未来更高的捐赠额”。 GiveDirectly是有效利他主义者中另一个受欢迎的组织。它表示已悄然从捐赠者那里筹集了一轮资金，以支持其为捐赠浪潮做准备。这家将无条件现金转移给贫困或危机中人们的非营利组织，正在利用这笔资金引进更多工程师，以实现其财务和人力资源系统的自动化。它还在建立合作伙伴关系，以便在自然灾害期间更快地部署资金，并已开始制定“全球AI财富红利”计划，为极端贫困人口提供资金。GiveDirectly的CEO Nick Allardice表示，“尽管IPO存在不确定性”，但这是一个“值得认真对待”的时刻。 ## 更加谨慎 一些组织担心自己会被抛在后面，因为它们远离旧金山的AI社区，或者关注儿童安全或政治虚假信息等问题，而这些可能与潜在捐赠者的假定优先事项不重叠。 一个广泛存在的担忧是，巨额资金可能导致某些事业资金充裕，而其他紧迫问题可能吸引不到多少资金。例如，解决AI对人类生存构成的存在风险（这是有效利他主义者的优先事项）的组织，被广泛预测将获得比那些试图通过打击大规模监控或在线伤害来改善人权的组织多得多的支持。 这种可能性让Marlena Wisniak夜不能寐。她在欧洲非营利法律中心（ECNL）负责数字战略，该中心致力于AI政策和研究。她一直努力提高那些可能被忽视的组织的知名度，尤其是在全球南方。本月，她取得了一场胜利，一位在Anthropic工作的朋友向一个符合该描述的组织捐赠了10万美元。Wisniak现在正试图说服她在OpenAI和Anthropic的联系人，将她的值得支持的人权和社会正义组织名单分享给他们的同事。她还在鼓励这些非营利组织使用“变革理论”和“有证据支持”等术语来框架其工作，这些术语可能更能引起有效利他主义者的共鸣。 少数组织故意不参与这一时刻。今年早些时候，负责评估OpenAI和Anthropic模型的Model Evaluation and Threat Research决定不向这些公司的员工寻求资金，因为这可能危及该非营利组织的独立性。据一位熟悉该非营利组织想法的人士表示，其他组织担心从那些会将它们与有效利他主义联系起来的来源获得资金，从而吓跑合作伙伴或其他捐赠者，因为该运动被批评为封闭且误导 (https://www.wired.com/story/deaths-of-effective-altruism/)。（一位与多个与有效利他主义一致的组织合作的传播顾问，但未获授权代表它们发言，表示该运动“在资金、人才和影响力方面持续增长，主要资助者越来越愿意与EA相关组织合作，这反映了这些所谓的声誉担忧被夸大了。”） 一些非营利行业的资深人士敦促普遍保持谨慎。他们不希望各组织为了迎合新资金的模式而扭曲自己的项目，从而忽视核心工作。筹款人也意识到，这些财富是构建AI工具的副产品，而在某些情况下，这些工具正在加剧非营利组织正在解决的问题。“今天的风险是，这些IPO带来的工业化财富事后看来可能不会为人类带来好处，”AI4ALL的Lee说。“我们必须避免为了迎合富人的优先事项而贪图唾手可得的金钱的诱惑。” 预期中的资金激增的一个影响已经开始显现：随着慈善资金集中在少数拥有有限人才的领域，工资正在上涨。本月，AI安全非营利组织Resolution宣布从Coefficient获得1.6亿美元的资助，这是捐赠者此类资助中最大的一笔 (https://x.com/MaxNadeau_/status/2074156205535015040)。该组织在一篇博文中 (https://resolution.org/post/funding/) 表示，这笔资金加上AI IPO后的“巨额慈善资本涌入”，将使Resolution能够支付“远高于非营利组织和学术界的薪资水平”。