从本地LLM到主权AI:行业如何界定界限?
摘要
本文探讨了从本地LLM到主权AI的转变,引用了一篇将AI主权分解为计算、操作和硬件控制层次的论文,并探索了行业在定义和治理主权AI方面的做法。
我一直关注从云端托管AI到本地模型,再到私有/主权AI基础设施的转变,有一点越来越明显:“本地”和“主权”未必相同。我最近读到这篇论文:《AI Compute Sovereignty: Infrastructure Control Across Territories, Cloud Providers, and Accelerators》作者:Hawkins, Lehdonvirta & Wu — 牛津/阿尔托
我喜欢它的一点是,它不将主权视为二元对立。它将其分解为三个层次:计算在哪里?—领土控制;谁操作它?—云/提供商所有权;谁提供加速器?—硬件/加速器控制
数字使得这种区分相当有趣。作者对九大主要公共云提供商的普查发现,43个国家有225个云区域,33个国家有132个支持加速器的区域。数据集中只有24个国家拥有训练相关的计算。例如,印度有5个支持加速器的区域,其中3个具有训练相关的计算。但这些区域并非全部由国内控制:普查记录了4个美国提供商区域和1个中国提供商区域。论文将这种对多个外国提供商的依赖描述为“对冲”。
然后是硬件层。普查中95.5%的支持加速器的区域由美国拥有的加速器提供动力。因此,即使计算在物理上位于一个国家内,在栈的更深层仍可能存在重大依赖。
但我认为论文更重要的点是,不应该从中得出什么结论。它并不主张每个国家都应该尝试构建自己完整的AI栈。更多的国内计算可能意味着更大的控制和供应安全,但也意味着对能源、水和土地的巨大需求,以及建设和运营基础设施的成本。
因此,主权开始看起来不那么像:“我们拥有GPU吗?”而更像:“我们实际上需要控制AI栈的哪些部分?”这似乎也是行业发展的方向。
NVIDIA和HPE主要从基础设施/计算角度来探讨主权AI,而像Red Hat OpenShift AI这样的平台则更多从AI平台和混合部署角度出发。
然后还有另一层我特别感兴趣:治理,AI控制平面。Microsoft正在将其构建到Foundry中,IBM在watsonx Orchestrate中引入了Agentic控制平面,而Lyzr通过其控制平面,采取了一种更框架无关的方法来治理跨不同栈和环境的代理。
这对我来说是一个有趣的方向,因为它再次转移了主权问题——从“我的模型在哪里运行?”到“谁控制我的AI系统如何部署、访问、监控和治理?”
这让我想知道,“主权AI”最终是否会更少地定义为拥有每个组件,而更多地定义为控制对特定威胁模型真正重要的层次。对于本地LLM用户来说,这可能仅仅意味着本地模型、本地推理和本地数据。对于企业或政府部署,定义可以扩展到计算、身份、部署、治理和控制平面本身。
你会如何划定界限?
相似文章
主权AI并非政府术语的随机组合。它是人工智能成为关键基础设施时必然发生的事情。
本文认为,主权AI不仅仅是政府术语,而是当AI成为关键基础设施时的实际需求,旨在减少对少数供应商的依赖以获取战略掌控权。
Sovereign AI 不是模型问题,而是供应链问题 (20分钟阅读)
本文重新定义了Sovereign AI,将其视为供应链重新调整的挑战,而非模型开发竞赛,认为各国需要确保国内或盟友的基础设施用于AI的训练、推理和运行,这将推动对GPU、内存及其他硬件的新一轮需求。
@rosstaylor90: 关于主权AI辩论的几点看法,曾在英国为Meta构建多个LLM,现为一家英国初创公司工作……
一位前Meta AI研究员分享了一个关于英国主权AI辩论的10点帖文,认为规模较小、范围明确的团队无需数十亿资金即可验证新方向,并强调培养本地人才和管理期望对于英国AI生态系统至关重要。
在自主系统时代确立AI和数据主权
随着生成式AI和代理系统成为业务运营的核心,企业正优先考虑AI和数据主权,以重新掌控专有数据和模型,减少对集中式云提供商的依赖。
AI主权作为国家学习能力:以人为中心的学习力学视角看法国、美国和中国
本文提出以人为中心的学习力学(HCLM)将国家AI发展解释为一个学习系统,认为AI主权取决于国家调控自身信息动态的能力。文章为法国提供了数学模型和政策启示,将AI政策重新定义为非平衡学习系统的治理。