OpenClaw 与 Ollama 在智能体 AI 中的应用：迈向全自主且可扩展的 AI 智能体系统

# Agentic AI 中的 OpenClaw 与 Ollama：迈向完全自主且可扩展的 AI 智能体系统

来源：https://arxiv.org/html/2607.28629

Konstantinos I. Roumeliotis [1], Ranjan Sapkota [2]

[1] 伯罗奔尼撒大学信息学与电信系，特里波利，22131，希腊  
[2] 康奈尔大学生物与环境工程系，伊萨卡，纽约州，14850，美国

###### 摘要
从反应式大语言模型（LLM）接口向持久化、可执行系统的快速转变，揭示了 Agentic AI 在架构理解上的根本性缺失，尤其是在区分推理层、编排层和执行层方面。尽管已取得显著进展，但仍缺乏能够系统解释自主智能体如何作为全栈系统进行设计、部署和评估的统一框架。本文对 Agentic AI 架构进行了全面的分层分析。我们首先建立 Agentic AI 与分层架构的基础，考察从反应式 LLM 到持久化智能体系统的演进，并识别模块化、记忆层次结构和持续执行等核心设计原则。然后，我们将 OpenClaw 和 Ollama 作为一个全栈 Agentic AI 架构进行分析，其中 Ollama 充当 LLM 推理层，OpenClaw 充当智能体运行时层，实现从模型推理到自主推理、规划和行动的无缝集成。为证实这一架构视角，我们引入了对 OpenClaw–Ollama 全栈系统的原型实验验证。通过受控配置、基准任务设计和系统级评估指标，结果表明，随着架构复杂性的增加，性能呈现一致的单调提升，从而证实工具使用和持久记忆等自主能力源于系统集成，而非孤立的模型。基于这些发现，我们进一步分析了运营挑战、安全性和评估问题，强调持久化智能体系统在安全性、隐私、治理和基准测试方面的关键问题。最后，我们探讨了未来研究方向，包括可扩展的多智能体系统、分布式架构以及以人为中心、负责任的自主 AI。总体而言，这项工作为 Agentic AI 建立了统一的架构框架，提供了全栈自主系统的实证验证，并勾勒出迈向可扩展、安全且值得信赖的自主智能体的路线图。原型实验验证、架构、模型、代码和实验数据集已公开发布，以支持可复现性、透明度和社区基准测试，详见 GitHub（https://github.com/Applied-AI-Research-Lab/OpenClaw-and-Ollama-in-Agentic-AI）。

###### 关键词：Autonomous AI Agents, Agentic AI, AI Agents, Openclaw Agent, Ollama, Artificial Intelligence

## 1 引言
大语言模型（LLM）的出现从根本上重塑了人工智能的发展轨迹，使该领域从窄任务专用管道转向日益通用的推理系统，这些系统具备语言理解、代码生成、多模态解释和决策支持能力\[chen2024evolution,sarikaya2025path\]。然而，LLM 的早期部署主要是反应式的：用户提出提示，模型生成响应，除非手动提供新提示，否则交互终止\[liu2023prompting\]。此类系统展现了非凡的语言能力，但在持久性、自主性、记忆连续性和基于行动的执行方面仍然受限\[zheng2026lifelong\]。因此，基础模型在自然语言中所能表达的，与现实世界智能系统在实践中必须做到的——即感知变化的环境、维持长期目标、协调工具、跨交互保持状态以及长时间跨度行动——之间出现了日益明显的鸿沟。这一鸿沟推动了 **Agentic AI** 的兴起，这是一种将 LLM 不仅视为文本生成器，更视为嵌入更广泛软件架构中的认知引擎、用于规划、记忆管理、工具使用和自主执行的范式\[sapkota2025ai,abou2025agentic\]。

在这一转变中，核心挑战不再仅仅是模型能力，而是系统架构。换句话说，自主 AI 智能体的实际实现取决于推理引擎、记忆模块、编排层、执行管道、通信接口和安全控制如何组合成一个集成的运行时\[alva2026agentic,bandi2025rise\]。一个强大的模型若缺乏持久状态、可靠的外部工具访问、治理约束或长视距推理机制，不足以产生稳健的智能体系统\[kumar2026agentic,wei2026agentic\]。因此，当代 AI 研究的工程重点正转向分层架构，将模型推理、智能体编排和环境交互的关注点分离\[alva2026agentic,adabara2025trustworthy\]。

这种架构转变对于基于 LLM 的多智能体系统尤为重要，其中多个 AI 智能体可以协作、专业化、交换信息并联合执行复杂工作流\[li2024survey,he2025llm\]。在此类环境中，模块化、互操作性和运行时控制成为基本的设计目标。两项新兴技术很好地说明了这种分层转变：**Ollama**（来源链接：https://github.com/ollama/ollama）和 **OpenClaw**（来源链接：https://github.com/openclaw/openclaw）。

Ollama 代表了 **LLM 推理层**，为本地、高效且具有更强隐私控制地运行大语言模型提供了一种轻量级且实用的机制\[rodriguez2025privacy\]。它通过支持端侧或自托管推理，解决了依赖云端的 LLM 部署的一个主要局限，从而提高了部署灵活性、改善了延迟特性并增强了数据主权\[marcondes2025using\]。相比之下，OpenClaw 代表了 **智能体运行时层**，提供了一个架构框架，使模型能够嵌入持久的、使用工具的、支持记忆的、可执行行动的自主智能体中\[weidener2026openclaw,borjigin2026execution\]。其意义不在于模型训练，而在于将认知、记忆、调度和执行编排为持续运行的闭环\[ying2026uncovering,deng2026taming\]。当将 Ollama 和 OpenClaw 放在一起考虑时，它们为审视 Agentic AI 的全栈实现提供了一个有用的视角：一个提供推理的计算基础，另一个则将该智能组织为持久的智能体行为。

这种分层视角在科学上具有重要意义，原因如下。首先，它阐明了现代自主智能体并非单一构件，而是复合系统，其行为源于异构模块之间的交互，而非仅仅来自模型权重\[buyya2026agentic,wang2026autonomous\]。其次，它通过区分推理层、运行时层、记忆层、工具交互层和治理层，实现了对智能体架构更严格的分类\[zhang2026agentic\]。第三，它为分析系统级权衡提供了更清晰的基础，例如隐私与可扩展性\[mo2026ironengine,flynn2026cognitive\]、本地部署与云端弹性\[holzbauer2026malicious,ruan2026logic\]、架构灵活性与集成复杂性，以及自主性与可控性。最后，它使得评估如 OpenClaw 和 Ollama 这样的系统时，不再仅仅将其视为孤立工具，而是视为 Agentic AI、AI 智能体以及具有自主 AI 智能体的基于 LLM 的多智能体系统这一更广泛基础设施堆栈中的代表性组件。

参见图 1 的说明：

图 1：人工智能从预测模型到生成系统，最终到智能体架构的结构化演进，将规划、行动、观察和记忆整合到自主决策循环中。

正如图 1（https://arxiv.org/html/2607.28629#S1.F1）所解释的，从历史角度来看，通往 Agentic AI 的路径可以理解为经过多个阶段的演进。第一阶段强调预测式 AI，模型在狭义定义的任务上执行分类、回归或排序。第二阶段引入了生成式 AI，LLM 和多模态基础模型能够根据提示合成文本、代码、图像或结构化输出。第三阶段（目前正在快速扩展）关注智能体系统，其中生成过程嵌入到规划、行动、观察和记忆更新的循环中。在这个第三阶段，LLM 不再是整个系统，而是更大架构中的一个组成部分，该架构可能调用工具、查询记忆存储、监控外部状态、将目标分解为子任务，并不断修正自身策略。这一转变在科学、企业、机器人和信息物理应用中尤为重要，因为这些领域中的决策连续性、上下文感知和系统级可靠性不可或缺。

尽管取得了实质性进展，但相关文献仍然零散。现有研究经常孤立地考察智能体框架\[garg2025designing,olujimi2025agentic\]、自主 AI 助手\[frank2026consumer,kumar2025agentic,luo2025human,bowen2025agentic\]、编排库\[piccoli2025large,nygaard2026agentic,chopra2025levels\]、本地推理引擎\[park2025survey,gao2026localbench,vake2025hive\]或工具使用范式\[li2025review\]。一些工作聚焦于 LLM 推理与规划\[hao2023reasoning,dou2025plan\]，另一些关注记忆增强\[salama2025meminsight,xu2025memory\]、检索\[hong2025enhancing,wang2025leveraging\]或编排\[luo2025toward,rudra2025composable\]，还有一些则强调隐私保护的本地部署\[andreoletti2026privacy,zhang2026privacy\]。然而，明显缺乏从综述层面联合研究诸如 Ollama 这样的推理框架和诸如 OpenClaw 这样的智能体运行时如何共同实现一个连贯的 Agentic AI 架构。这一缺口不容忽视。没有统一的架构视角，就很难回答一些基础性问题，例如：推理与智能体行为之间的确切区别是什么？为什么实际自主系统中需要这两层？当持久化智能体运行时依赖外部模型引擎时，应如何对其进行评估？当本地推理与自主执行相结合时，会出现哪些新的安全和治理风险？未来的基础设施应如何演化为可扩展、可信且可互操作的多智能体生态系统？

在当前技术格局下，研究 Ollama 的理由尤为充分。随着人们对隐私、数据治理、法规遵从、模型成本和延迟的关注日益增加，本地 LLM 推理已变得越来越有吸引力。自托管推理引擎减少了对外部 API 的依赖，在某些部署场景中降低了经常性成本，并支持离线或边缘操作\[tanikanti2025first,gopee2026self,knoop2026private\]。这些特性在涉及敏感用户数据、专有企业工作流或受限连接等领域尤其相关。然而，仅靠本地推理并不能创建自主智能体。它提供的是 token 生成，而非持久行为；是预测，而非编排；是语言输出，而非工具约束下的行动\[zhao2025meta,kang2026thunderagent\]。因此，像 Ollama 这样的推理引擎应被理解为完整 Agentic AI 系统中必要但不充分的组成部分。

类似地，研究 OpenClaw 的必要性源于对持久、使用工具、支持记忆的 AI 运行时日益增长的需求。与普通的聊天界面不同，OpenClaw 类系统旨在随时间维持状态、管理长期目标、调用外部技能并跨多个渠道和上下文运行\[deng2026taming,shan2026don,suwansathit2026systematic\]。这与自主 AI 智能体的定义属性高度一致：持久性、模块化可操作性、记忆连续性以及跨多步骤工作流推理的能力\[yu2026agents,alva2026agentic,lee2026toward\]。然而，此类智能体运行时也引入了新的风险形式。当一个 LLM 被置于持久化执行框架中，并能访问文件、API、通信工具或调度器时，系统的故障模式远远超出了幻觉文本的范围\[cornacchia2025between\]。风险现在包括记忆污染、恶意工具调用、隐私泄露、提示注入、不安全的自动化以及人类监督的缺失\[he2025emerged,gulyamov2026prompt\]。因此，OpenClaw 不仅在架构上具有重要意义，同时也是研究全栈智能体系统中安全性、信任和治理的一个极具说服力的案例。

全面理解 OpenClaw 和 Ollama 还需要关注分层架构。在传统软件工程中，分层设计通过将系统关注点分离为相对独立的组件来促进模块化、抽象性和可维护性\[thaiya2022software,mari2003impact\]。类似的原理也适用于 Agentic AI。推理层负责模型执行和 token 生成\[zhang2026toward,brohi2025research\]。运行时层负责编排智能体的推理循环、记忆访问和工具调用\[bandi2025rise,alva2026agentic\]。执行层与外部系统（如浏览器、文件系统、API 和通信渠道）交互\[rohitha2025agentic\]。治理层限制、监控、记录和审计行为\[biswas2026responsible,janakiraman2025governance\]。记忆层跨会话和任务保持连续性\[sarin2025memoria,kang2025memory\]。区分这些层对于分析和设计都至关重要，因为每一层的能力、瓶颈和风险差异显著。例如，增大模型规模可能提升推理质量，但会恶化延迟；增加更多工具可能扩展智能体的效用，但会扩大攻击面；本地推理可能改善隐私，但会引入硬件限制。因此，一篇科学严谨的综述必须考虑整个架构，而不是将所有系统行为都归因于 LLM 本身。

在基于 LLM 的多智能体系统语境下，这种分层视角的重要性被进一步放大。多智能体架构引入了额外的复杂性，包括智能体间通信、角色专业化、分布式记忆、协作协议、协商机制和冲突解决策略\[lesser1998reflections\]。在此类系统中，推理层可以是集中式或分布式的，运行时层可能管理多个异构智能体，治理层则必须同时处理个体和集体行为\[ahmed2025distributed,alvarez2026explainable\]。OpenClaw 和 Ollama 虽然在讨论中通常用于单智能体部署场景，但它们提供了可向更广泛智能体生态系统扩展的概念构建块。Ollama 可以为多个智能体或专门的本地模型提供推理支持\[coelho2025adaptive,liu2025feasibility\]，而类似 OpenClaw 的运行时可以协调持久的智能体角色、记忆和工具\[chen2026clawed,weidener2026openclaw,wang2026openclaw\]。这为研究开辟了一片肥沃的天地。