我们是否在错误的层面上审视AI主权?
摘要
作者认为,AI主权讨论应更多关注应用层,特别是代理工作流和可移植性,而不仅仅是芯片和模型。
在我之前发布的论文讨论之后,我进一步阅读了一些关于主权AI的内容。偶然发现了Akash Kapur和Arvind Narayanan在《科学》杂志上发表的这篇短文:https://doi.org/10.1126/science.ael0463 我认为一个真正有趣的点是:他们认为印度的主权讨论主要集中在芯片、数据中心和LLMs上,而应用层则受到较少关注——尤其是代理和实际执行工作的软件。这让我思考:你可以运行自己的模型,托管自己的基础设施。但如果重要的工作流、代理逻辑、组织上下文和工具都绑定在别人的平台上,你实际上有多主权呢?而且这似乎也是市场的走向。微软、Salesforce、OpenAI等正进一步深入代理/应用层,而像Lyzr这样的平台则采取更模型/云/框架无关的控制平面方法。我开始认为模型可移植性可能不如应用可移植性重要。能够交换LLM是有用的,但能够移动整个代理工作流而无需重建系统,感觉是更大的问题。很好奇构建代理的人对此有什么看法。
相似文章
从本地LLM到主权AI:行业如何界定界限?
本文探讨了从本地LLM到主权AI的转变,引用了一篇将AI主权分解为计算、操作和硬件控制层次的论文,并探索了行业在定义和治理主权AI方面的做法。
谁决定AI代理可以知道什么?
作者对谁控制AI代理的数据访问表示担忧,质疑是否已有既定的治理架构,并分享了一个代码库来探讨这个问题。
Sovereign AI 不是模型问题,而是供应链问题 (20分钟阅读)
本文重新定义了Sovereign AI,将其视为供应链重新调整的挑战,而非模型开发竞赛,认为各国需要确保国内或盟友的基础设施用于AI的训练、推理和运行,这将推动对GPU、内存及其他硬件的新一轮需求。
我认为AI代理的讨论即将超越框架层面
作者认为构建AI代理不再是难点;真正的挑战在于部署、测试、版本控制和运维管理,这些在生态系统中仍然支离破碎。
我们是否过度关注智能而忽视了治理?
作者认为,AI 智能体治理常常被智能基准测试所掩盖,并介绍了一个名为 SAFi 的开源项目,用于强制实施运行时边界。