@DailyDoseOfDS_: 一个受框架控制的LLM智能体,清晰解释!大多数人认为这是一个模型加上附加工具。真正的架构…
摘要
解释了受框架控制的LLM智能体的反向架构,其中智能被外化到记忆、技能和协议中,围绕一个轻量模型核心,由中介器管理交互。
查看缓存全文
缓存时间: 2026/07/02 10:20
一个被框架驾驭的LLM智能体,清晰解析!
大多数人把它想象成一个硬加上工具的模型。真正的架构颠倒了这种关系。
模型本身被刻意设计得单薄。智能被推向外部,框架在运行时对其进行组合。
三个维度围绕框架核心运转:
-
记忆保存着模型不应该由权重或上下文承载的状态。工作上下文、语义知识、情景经验和个性化记忆各自拥有独立的生命周期。
-
技能保存程序性知识。这可以涵盖操作流程、决策启发和规范约束,这些内容针对具体任务对通用模型进行特化。
-
协议保存交互契约。智能体到用户、智能体到智能体、智能体到工具是三个独立的交互面,各有各的故障模式。
在核心与这些模块之间是中介层,如沙盒隔离、可观测性、压缩、评估、审批循环和子智能体编排。
它们管理框架如何向外延伸,以及状态如何回流。
这个框架解锁的有用问题是:对于任何新能力,它应该放在哪里?
- 稳定的知识 → 记忆
- 学会的操作手册 → 技能
- 通信契约 → 协议
- 循环治理 → 中介层
框架设计变成了一个问题:什么要外部化,以及如何对它进行中介。
我们撰写了一篇关于Agent Harness(智能体框架)解剖的文章,涵盖了编排循环、工具、记忆、上下文管理,以及将无状态LLM转化为有能力的智能体的其他一切。
请在下方阅读。
相似文章
@cwolferesearch: 什么是智能体?定义可以很简单:它只是一个在智能体循环中运行的LLM。为了使其…
清晰地定义了AI智能体为智能体循环中的LLM,涵盖LLM骨干、指令、工具、环境等组件,以及上下文管理和记忆等额外细节。
@j_golebiowski: 下一代智能体栈:以前沿LLM作为编排器,微调SLM作为技能。对于PII脱敏,编排器从不…
描述了一种智能体栈设计,其中前沿LLM编排微调SLM进行PII脱敏,通过将原始文本保留在本地来确保隐私。
最好的智能代理工具会这样做……
作者分享了构建高效智能代理工具的见解:最好的工具最大限度地减少对大语言模型(LLM)在琐碎任务上的依赖,将其保留用于复杂推理,从而将真正的代理工具与简单的包装器区分开来。
@janehu07: https://x.com/janehu07/status/2058359677843599494
本学习笔记介绍了智能体基础设施层的概念,将其定义为围绕LLM的基础设施层,提出了ETCLOVG分类法(执行、工具、上下文、生命周期、可观测性、验证、治理),并通过编码智能体案例研究展示了其应用。
@gneubig: 我们发现这种 "sidekick" 架构在降低LLM成本方面非常有效,因为它允许你...
Graham Neubig 分享了一种通过将简单任务委托给较小的智能体来降低LLM成本的 sidekick 架构,并提供了一个使用 OpenHands SDK 的200行示例。这种方法也被用于 Cognition 的 Devin Fusion 混合模型 harness。