@akshay_pachaar: 从提示工程到上下文工程再到封装工程。三个术语在AI工程中反复出现,经常被混为一谈……

X AI KOLs Following 新闻

摘要

Akshay Pachaar阐释了三个不同的AI工程概念——提示工程(消息)、上下文工程(记忆)和封装工程(机器)——解释了它们在构建基于LLM的智能体中的角色与相互作用,并附有一篇关于智能体封装工程的深入文章链接。

从提示工程到上下文工程再到封装工程。 三个术语在AI工程中反复出现,而且经常被混为一谈。以下是最清晰的理解方式,说明各自含义及如何协同工作。 𝗽𝗿𝗼𝗺𝗽𝘁 𝗲𝗻𝗴𝗶𝗻𝗲𝗲𝗿𝗶𝗻𝗴 𝗶𝘀 𝘁𝗵𝗲 𝗺𝗲𝘀𝘀𝗮𝗴𝗲. 模型对单次调用之前的内容毫无记忆,因此提示必须承载它所需知道的全部信息。这包括角色、背景、指令、几个示例和格式。 这些被整合成一个输入发送给模型。当输出不理想时,关键在于判断哪个环节出了问题,而不是每次都重写指令。 工作的单位是一次输入。 𝗰𝗼𝗻𝘁𝗲𝘅𝘁 𝗲𝗻𝗴𝗶𝗻𝗲𝗲𝗿𝗶𝗻𝗴 𝗶𝘀 𝘁𝗵𝗲 𝗺𝗲𝗺𝗼𝗿𝘆. 在多个步骤中,窗口是有限的,而可用的信息是无限的,这就需要进行筛选。没有筛选,重要的细节会被过时的工具输出和旧的轮次所淹没,模型对真正重要内容的注意力也会下降。 筛选器会选择保留什么,压缩有用但冗长的内容,并丢弃其余部分。每一步的输出会输入下一步,好的筛选更在于知道丢弃什么,而非塞进更多内容。 工作的单位是窗口中逐步保留的内容。 𝗵𝗮𝗿𝗻𝗲𝘀𝘀 𝗲𝗻𝗴𝗶𝗻𝗲𝗲𝗿𝗶𝗻𝗴 𝗶𝘀 𝘁𝗵𝗲 𝗺𝗮𝗰𝗵𝗶𝗻𝗲. 单独来看,模型只是生成文本。封装工程则将其转化为能够采取行动、检查自身工作并在步骤出错时恢复的实体。 完整循环包含三个阶段: - 𝗴𝗮𝘁𝗵𝗲𝗿 收集模型所需的一切 - 𝗮𝗰𝘁 运行模型并调用工具或子智能体 - 𝗮𝗻𝗱 𝘃𝗲𝗿𝗶𝗳𝘆 通过测试或评判者检查输出 失败时,整个循环会利用更新后的上下文重试,这正是调用API与运行智能体之间的本质区别。 工作的单位就是机器本身。 以下是将其串联起来的部分。 提示工程和上下文工程都位于𝗴𝗮𝘁𝗵𝗲𝗿内部。封装是外部容器,上下文是它精选的内容,提示则是最终传递给模型的东西。 放大视角,工作单位变大;聚焦细节,你又回到了提示本身。 我还发表了一篇关于智能体封装工程的深度文章(原文),涵盖编排循环、工具、记忆、上下文管理以及将所有无状态LLM转化为有能力的智能体所需的一切。 该文章引用如下。
查看原文
查看缓存全文

缓存时间: 2026/05/23 14:07

从提示到上下文再到框架工程。

在AI工程中,三个术语反复出现,而且经常被混为一谈。以下是最清晰的理解方式,说明每个术语是什么以及它们如何协同工作。

提示工程(Prompt Engineering)是消息。

模型对本次调用之前没有任何记忆,因此提示必须承载它所需理解的全部信息。这意味着要包括角色、一些背景、指令、几个示例和一种格式。

这些内容被整合成一个输入并发送给模型。当输出不理想时,技能在于找出哪个成分真正让你失望,而不是每次都重写指令。

其工作单元是一个输入。

上下文工程(Context Engineering)是记忆。

在多个步骤中,窗口是有限的,而可用信息是无限的,这迫使需要做梳理。没有梳理,重要细节就会被过时的工具输出和旧轮次淹没,模型的注意力会在真正重要的事情上退化。

梳理者要选择保留什么,压缩有用但冗长的部分,并丢弃其余内容。每一步的输出会反馈到下一步,而好的梳理更在于知道要扔掉什么,而不是塞进更多东西。

其工作单元是窗口中逐步保留的内容。

框架工程(Harness Engineering)是机器。

模型本身只是生成文本。框架的作用是把它变成可以执行操作、检查自身工作、并在步骤出错时恢复的东西。

完整循环包含三个阶段:

  • 收集:汇聚模型所需的一切
  • 执行:运行模型并调用工具或子代理
  • 以及验证:通过测试或评判器检查输出

失败时,整个循环会用更新后的上下文重试——这也是调用API和运行代理之间的根本区别。

其工作单元是机器本身。

以下是串联起来的关键点:

提示工程和上下文工程都存在于收集阶段。框架是外层容器,上下文是它梳理的内容,提示是它最终交给模型的东西。

向外看,工作单元变大。向内看,你又回到了提示。

我还发布了一篇关于代理框架工程的深度文章,涵盖了编排循环、工具、记忆、上下文管理,以及将所有无状态LLM转化为有能力的代理所需的一切。

文章引用如下。

相似文章

Harness、Scaffold 以及值得厘清的 AI Agent 术语

Hugging Face Blog

这是一篇 Hugging Face 博客文章,旨在定义并厘清 AI Agent 领域的关键术语,如 scaffolding、harness、context engineering 和 tool use,力求在快速演进中实现词汇标准化。