标签
Rimplo 的创始人分享了为营收团队构建智能体平台时学到的设计经验,认为上下文质量、垂直领域针对性和人工审批比使用哪种大语言模型更重要。
实践者们讨论了“上下文大杂烩”——在 AI 智能体或模型之间交接工作时,传递完整对话记录导致 token 数量膨胀、指令相互冲突的现象——并分享了通过精炼状态进行交接的模式,例如本地台账、CLAUDE.md 风格的文件,以及结构化的交接回执。
UC Berkeley 的一项研究发现,定期丢弃历史并从最佳结果重新开始的 Agent,比并行 Agent 表现高出最多 15%;文章还引用了 Microsoft 的 Fork-and-Flush 以及 Drew Breunig 提出的"上下文惯性"概念,来探讨跨上下文重置应该保留哪些状态这一开放问题。
LangChain 将于 11 月 3 日举办一场线上研讨会,内容涵盖智能体记忆和上下文工程,其中包括 Jess Weng 带来的 5 分钟上下文工程讲解。
一篇提出「缓存工程(cache engineering)」的论文:让 LLM 智能体通过 drop 和 repos 操作直接操纵自身的 KV cache,同时不使轨迹失效;该方法与 AKV 服务引擎协同设计,实现了 27.7% 的成本降低、1.2 倍吞吐量提升,并通过缓存策略的递归自我改进进一步节省 7.1%。
提出 AKV 的缓存工程方案,让 LLM 智能体在不修改轨迹的前提下直接操作 KV 缓存(drop/repos),并配合协同设计的 serving 引擎,在降低成本与延迟的同时提升基准分数。
LangChain 创始人 Harrison Chase 在《Twenty Minute VC》播客中谈到,模型越强,驾驭层越需要重构,真正的护城河在于领域专家能写出的验证器与可控的上下文工程,并给出构建垂直智能体的实践建议。
Nebius 宣布其 AI Builder Program 扩展至欧洲,提供总额 1000 万美元的算力资助、资金和社区支持,鼓励开发者围绕开放模型和智能体进行构建。
作者介绍了"锚定工程"(Anchor Engineering)这一软件开发方法,它将人类的设计判断编码为"锚点"——存储在与代码并行的"锚点手册"中的指导性约束,使 AI 编码代理能够在不丢失团队共识、质量和协作的前提下更快地构建系统。
Grok Bot 团队的 @poteto(Lauren)提出信任 AI Agent 成果的四层“倒金字塔”框架:把精力优先投入代码库改造与静态分析,而非规则文件与人工审查,主张通过工程化环境让 Agent 默认做对。
Oracle AI 和宾大的研究者对数据智能体中的三种上下文工程技术(语义层、编排、压缩)进行系统研究,发现这些技术的效果高度依赖智能体的行为分组(调查者、过早作答者、早期放弃者),某些情况下甚至会损害准确率。
LangChain 发布新博客,介绍其 Deep Agents 框架如何通过将上下文移出活跃窗口(而非删除)来解决智能体长期运行时的记忆与推理准确度下降问题。
一篇引人思考的博客文章,主张大语言模型输出的非确定性并非软件开发的致命缺陷,因为只有最终结果需要精确,而达成结果的路径不必如此。作者提倡利用 AI 构建经过测试的确定性工具,供智能体调用,从而利用当下的随机性来减少未来系统中的随机性。
用户 jakevin7 评论称 Raft 的设计领先行业,指出 Grok 机器人中的许多设计与六个月前 Raft 的设计一致,并引用了 Lee Robinson 在斯坦福大学 CS146S 课程中关于始终在线(always-on)智能体架构的讲座大纲。
一位实践者报告了 1,680 次配对 A/B 试验,结果表明,经典 Unix 和计算机科学形式化方法(熔断器有限状态机、SysV init-d 运行级别、git bisect、契约式设计、两阶段提交加预写日志、扩展巴科斯范式)在提升 LLM 智能体可靠性方面远胜于冗长的英语提示规则,并认为提示本质上是对训练语料中高频结构的静态符号链接。
Lee Robinson 发布了在斯坦福 CS146S 的讲座视频,讲解 Grok Bot 的工作原理,涵盖 Always-on Agent 设计、harness 设计、上下文工程以及如何保持主 agent 轻量等内容,值得一看。
Lee Robinson(@leerob)分享了他在斯坦福大学 CS146S 课程中的讲座,讲解像 Bot 这样持续运行、主动行动的智能体如何工作,涵盖模型进展、智能体架构、运行框架和上下文工程。
本文提出了GraphMemory,一种轻量级的基于图的记忆系统,将存储的知识与上下文解耦,每次查询仅检索相关的子图,从而实现Token高效的测试时持续学习,同时相比基线方法节省81–85%的记忆构建Token。
一篇观点文章认为,AI 智能体记忆真正的挑战在于写入路径——即如何在不同作用域下对存储内容(事实、观察、偏好、决策、待办事项)进行结构化和分类——而非检索,并以企业销售智能体为例,说明为何非结构化的对话记录片段会失效。
文章拆解了智能体记忆的六种上下文类型——事实、实体、事件片段、对话线程摘要、观察和用户摘要——并指出优秀的记忆系统只存储一次历史,却以不同形式读取它。文中介绍了 Zep 及其开源时序知识图谱框架 Graphiti,它将各种上下文类型组装成智能体的固定预算上下文块。