@akshay_pachaar: 从提示工程到上下文工程再到封装工程。三个术语在AI工程中反复出现,经常被混为一谈……
摘要
Akshay Pachaar阐释了三个不同的AI工程概念——提示工程(消息)、上下文工程(记忆)和封装工程(机器)——解释了它们在构建基于LLM的智能体中的角色与相互作用,并附有一篇关于智能体封装工程的深入文章链接。
查看缓存全文
缓存时间: 2026/05/23 14:07
从提示到上下文再到框架工程。
在AI工程中,三个术语反复出现,而且经常被混为一谈。以下是最清晰的理解方式,说明每个术语是什么以及它们如何协同工作。
提示工程(Prompt Engineering)是消息。
模型对本次调用之前没有任何记忆,因此提示必须承载它所需理解的全部信息。这意味着要包括角色、一些背景、指令、几个示例和一种格式。
这些内容被整合成一个输入并发送给模型。当输出不理想时,技能在于找出哪个成分真正让你失望,而不是每次都重写指令。
其工作单元是一个输入。
上下文工程(Context Engineering)是记忆。
在多个步骤中,窗口是有限的,而可用信息是无限的,这迫使需要做梳理。没有梳理,重要细节就会被过时的工具输出和旧轮次淹没,模型的注意力会在真正重要的事情上退化。
梳理者要选择保留什么,压缩有用但冗长的部分,并丢弃其余内容。每一步的输出会反馈到下一步,而好的梳理更在于知道要扔掉什么,而不是塞进更多东西。
其工作单元是窗口中逐步保留的内容。
框架工程(Harness Engineering)是机器。
模型本身只是生成文本。框架的作用是把它变成可以执行操作、检查自身工作、并在步骤出错时恢复的东西。
完整循环包含三个阶段:
- 收集:汇聚模型所需的一切
- 执行:运行模型并调用工具或子代理
- 以及验证:通过测试或评判器检查输出
失败时,整个循环会用更新后的上下文重试——这也是调用API和运行代理之间的根本区别。
其工作单元是机器本身。
以下是串联起来的关键点:
提示工程和上下文工程都存在于收集阶段。框架是外层容器,上下文是它梳理的内容,提示是它最终交给模型的东西。
向外看,工作单元变大。向内看,你又回到了提示。
我还发布了一篇关于代理框架工程的深度文章,涵盖了编排循环、工具、记忆、上下文管理,以及将所有无状态LLM转化为有能力的代理所需的一切。
文章引用如下。
相似文章
@akshay_pachaar:作为AI工程师,请学习:- 驾驭工程,而不仅仅是提示工程 - 提示缓存与语义缓存…
Akshay Pachaar 概述了AI工程师在提示工程之外的必备技能,包括缓存策略、可观测性以及成本分摊。
关于Harness Engineering的许多讨论,它到底意味着什么?
围绕Harness Engineering和AI agent Harness的热议,质疑行业是否正在远离让LLM决定代理响应的做法。
Harness、Scaffold 以及值得厘清的 AI Agent 术语
这是一篇 Hugging Face 博客文章,旨在定义并厘清 AI Agent 领域的关键术语,如 scaffolding、harness、context engineering 和 tool use,力求在快速演进中实现词汇标准化。
@nicos_ai: 提示工程 → 上下文工程 → 封装工程 → 循环工程 → 图工程:这个列表还在不断增…
这篇文章解释了提示工程、上下文工程、封装工程、循环工程和图工程之间的分层关系,强调每一层都是在前一层基础上构建的,而不是取代前一层,并说明了如何定位需要调试的层级。
@sairahul1: https://x.com/sairahul1/status/2063544956158185927
本文介绍了“Harness Engineering”这一概念,这是一门专注于设计约束和引导AI代理的系统,使其在生产中可靠的学科,并认为Harness(约束系统)比模型本身更重要。