@rosstaylor90: 关于主权AI辩论的几点看法,曾在英国为Meta构建多个LLM,现为一家英国初创公司工作……

X AI KOLs Following 新闻

摘要

一位前Meta AI研究员分享了一个关于英国主权AI辩论的10点帖文,认为规模较小、范围明确的团队无需数十亿资金即可验证新方向,并强调培养本地人才和管理期望对于英国AI生态系统至关重要。

A few words on the Sovereign AI debate, having built several LLMs in Meta while in the UK and now working as a UK based startup: 1. 很多人正努力让英国成为更适合创办AI公司的地方。成果显现需要时间,但你现在应该以意图来评判。我支持这个方向! 2. DeepMind对英国贡献巨大,但它也搅浑了局势,使得一家主权LLM公司难以脱颖而出——因为(直到最近)政府仍将其作为英国成就来庆祝/推举为国家冠军。 3. 类似地,人们现在一边庆祝美国近期对国王十字区的投资,一边又希望英国拥有更多主权。显然这里存在收入效应,但我也担心替代效应。AI不像其他类型的外国投资。 4. 英国能够开发有竞争力的基础模型的人才网络来自GDM和旧的Meta AI GenAI。还有一些来自较小的团队,如前Conjecture、Stability。人才仍然存在,尽管过去一年很多被美国FM公司挖走。我个人认为从英国大学培养新人才也并不太难,但你可能需要一个前GDM或Meta核心成员(参与过Gemini或Llama)。否则:先展示证据(技术报告),再声称你能做到。 5. 构建LLM与常规AI研究非常不同——技能组合不同。前者更接近工程;长时间工作,往往不引人注目。在英国的生态系统中区分这两类人才很重要;可以说对后者/点子型人才的关注过多。 6. 关于研究——DeepSeek R1的后训练成本为30万美元。是的,他们还需要消融预算、训练基础模型、投资基础设施和人才——而且是的,实现一个R1时刻的成本逐年增加——但认为你需要立即投入10亿美元以上才能展示结果的想法完全是FUD(恐惧、不确定和怀疑)。你需要数十亿来扩大规模,而不是验证新方向。 7. 根据我的经验,过去我见证的每次失败的LLM努力(从模型结果角度看)都源自以下因素的组合:领导不力、政治斗争、愿景不清和过早扩张。好的努力通常始于长期合作的小团队,他们有共同的论点,并循序渐进地分块扩展。最近的一些教训也适用于neolabs。 8. 事情需要时间。例如,我们花了大约12个月主要建设内部基础设施,才达到能够大展拳脚的位置。在初始阶段培育新公司很重要。期望管理也至关重要。我认为期望英国新公司一次性搞出大爆炸式的发布是非常危险的;有点像给植物浇水过多。正确的发布模式是:“还行”、“还行”、“还行”、“其实相当不错”、“天哪”。 9. 请不要让政客或记者扼杀近期或即将到来的AI投资努力。我们需要更多投资——尽管可能伴随某些地方的效率低下——因为AI对国家来说是生死攸关的。雄心勃勃的项目在初期通常极其脆弱;请好好照顾它们! 10. Mythos是一个很好的触发点,但即将到来的东西会让它看起来像玩具,所以值得为五年后将到来的东西构建——而不是当前一代的模型。 非常自豪能在英国创业——很快会有更多分享——与许多其他优秀的早期AI公司一起!
查看原文
查看缓存全文

缓存时间: 2026/06/15 09:02

关于主权AI辩论的几点思考,我在英国期间曾在Meta构建了多个大语言模型,现在作为一家英国初创公司的创始人:

  1. 许多人正努力让英国成为更适合创办AI公司的地方。成效显现需要时间,但此刻的意图值得肯定。我支持当前的发展方向!

  2. DeepMind对英国贡献巨大,但也模糊了本土大语言模型公司的生存空间——(直到最近)政府仍将其视为英国成就/作为国家冠军企业来推崇。

  3. 同样,人们一边庆祝美国近期对国王十字街的投资,一边呼吁更多英国主权。这里显然存在收入效应,但我更担心替代效应。AI与其他类型的外国投资不同。

  4. 英国能开发出具有竞争力的基础模型的人才核心来自DeepMind和Meta AI GenAI的前团队。还有一些来自Conjecture、Stability等小团队。虽然过去一年大量人才被美国基础模型公司挖走,但人才储备仍在。我个人认为从英国高校培养新人才并不太难,但可能仍需要前DeepMind或Meta核心成员(Gemini或Llama项目背景)。否则,请先展示技术报告作为证据再宣称能力。

  5. 构建大语言模型与常规AI研究截然不同——所需技能不同。前者更接近工程:长时间工作,往往不具吸引力。英国生态系统中需要区分这两类人才;可以说目前后者/创意型人才被过度关注。

  6. 关于研究:DeepSeek R1的后训练成本为30万美元。是的,他们还需要消融预算、训练基础模型、投资基础设施和人才——而且实现类似R1突破的成本逐年上升——但认为需要立即投入10亿美元以上才能看到成果完全是恐吓宣传。规模化需要数十亿,但验证新方向不需要。

  7. 据我观察,过去每个失败的大语言模型项目(从模型结果角度看)都源于糟糕的领导力、政治斗争、愿景不清和过早规模化。成功项目通常始于长期合作的微型团队,拥有共同理念,循序渐进地逐步扩展。这对新实验室也是近期的教训。

  8. 事情需要时间。例如我们花了约12个月主要搭建内部基础设施,才具备大举出击的能力。扶持新公司度过初始阶段至关重要。管理预期同样关键。我认为期望英国新公司一次性发布重磅产品非常危险——就像给植物浇水过多。正确的发布节奏应该是“还行“、“还行”、“其实不错”、“卧槽”。

  9. 请不要让政客或记者扼杀近期或即将到来的AI投资。我们需要更多——即使存在局部低效——因为AI对这个国家具有存亡意义。雄心勃勃的项目在早期通常异常脆弱,请呵护它们!

  10. Mythos是一个很好的触发时刻,但即将到来的东西会让它看起来像玩具。所以值得为五年后的未来构建,而不是当前一代的模型。

非常自豪能在英国创业——很快会分享更多——与众多优秀的早期AI公司同行!

建议阅读西藏墨脱水电项目报告,以彻底理解英国在未来十年需要怎样的变革规模。

@rosstaylor90 有兴趣将这个主题变成我们伦敦活动(3000名创始人/构建者)的主题演讲吗?

我乐观地认为更多掌权者会变得“AI激进“——问题只是多快、多迅速。不作为的成本每年都在增加。

相似文章

从本地LLM到主权AI:行业如何界定界限?

Reddit r/ArtificialInteligence

本文探讨了从本地LLM到主权AI的转变,引用了一篇将AI主权分解为计算、操作和硬件控制层次的论文,并探索了行业在定义和治理主权AI方面的做法。

英国主权AI的下一个篇章

OpenAI Blog

OpenAI宣布与英国司法部达成新协议,为2,500名公务员提供ChatGPT访问权限,并为API、Enterprise和Edu客户引入英国数据驻留选项。该合作伙伴关系建立在OpenAI与英国政府备忘录的基础上,旨在扩展主权AI能力并支持英国AI行动计划。