从本地LLM到主权AI:行业如何界定界限?

Reddit r/ArtificialInteligence 新闻

摘要

本文探讨了从本地LLM到主权AI的转变,引用了一篇将AI主权分解为计算、操作和硬件控制层次的论文,并探索了行业在定义和治理主权AI方面的做法。

我一直关注从云端托管AI到本地模型,再到私有/主权AI基础设施的转变,有一点越来越明显:“本地”和“主权”未必相同。我最近读到这篇论文:《AI Compute Sovereignty: Infrastructure Control Across Territories, Cloud Providers, and Accelerators》作者:Hawkins, Lehdonvirta & Wu — 牛津/阿尔托 我喜欢它的一点是,它不将主权视为二元对立。它将其分解为三个层次:计算在哪里?—领土控制;谁操作它?—云/提供商所有权;谁提供加速器?—硬件/加速器控制 数字使得这种区分相当有趣。作者对九大主要公共云提供商的普查发现,43个国家有225个云区域,33个国家有132个支持加速器的区域。数据集中只有24个国家拥有训练相关的计算。例如,印度有5个支持加速器的区域,其中3个具有训练相关的计算。但这些区域并非全部由国内控制:普查记录了4个美国提供商区域和1个中国提供商区域。论文将这种对多个外国提供商的依赖描述为“对冲”。 然后是硬件层。普查中95.5%的支持加速器的区域由美国拥有的加速器提供动力。因此,即使计算在物理上位于一个国家内,在栈的更深层仍可能存在重大依赖。 但我认为论文更重要的点是,不应该从中得出什么结论。它并不主张每个国家都应该尝试构建自己完整的AI栈。更多的国内计算可能意味着更大的控制和供应安全,但也意味着对能源、水和土地的巨大需求,以及建设和运营基础设施的成本。 因此,主权开始看起来不那么像:“我们拥有GPU吗?”而更像:“我们实际上需要控制AI栈的哪些部分?”这似乎也是行业发展的方向。 NVIDIA和HPE主要从基础设施/计算角度来探讨主权AI,而像Red Hat OpenShift AI这样的平台则更多从AI平台和混合部署角度出发。 然后还有另一层我特别感兴趣:治理,AI控制平面。Microsoft正在将其构建到Foundry中,IBM在watsonx Orchestrate中引入了Agentic控制平面,而Lyzr通过其控制平面,采取了一种更框架无关的方法来治理跨不同栈和环境的代理。 这对我来说是一个有趣的方向,因为它再次转移了主权问题——从“我的模型在哪里运行?”到“谁控制我的AI系统如何部署、访问、监控和治理?” 这让我想知道,“主权AI”最终是否会更少地定义为拥有每个组件,而更多地定义为控制对特定威胁模型真正重要的层次。对于本地LLM用户来说,这可能仅仅意味着本地模型、本地推理和本地数据。对于企业或政府部署,定义可以扩展到计算、身份、部署、治理和控制平面本身。 你会如何划定界限?
查看原文

相似文章

在自主系统时代确立AI和数据主权

Reddit r/ArtificialInteligence

随着生成式AI和代理系统成为业务运营的核心,企业正优先考虑AI和数据主权,以重新掌控专有数据和模型,减少对集中式云提供商的依赖。