@ninthbit_ai: 最近学习了一下 Codex 的 Compaction,把默认路径 Remote Compaction v2 的完整数据流画成了一张图 触发:token_limit_reached,或 mid-turn 工具循环里模型主动要求新窗口。触发点…
摘要
作者分析了 Codex 的 Remote Compaction v2 数据流,包括触发条件、请求处理、服务端密文返回和客户端上下文重建的完整流程,指出摘要模型与加密密钥均在 OpenAI 侧。
查看缓存全文
缓存时间: 2026/08/03 19:49
最近学习了一下 Codex 的 Compaction,把默认路径 Remote Compaction v2 的完整数据流画成了一张图
触发:token_limit_reached,或 mid-turn 工具循环里模型主动要求新窗口。触发点在 session/turn.rs 的 run_auto_compact,路由顺序:TokenBudget 特性 → remote v2(默认开启)→ remote v1 → 本地 handoff 摘要兜底。
请求前(客户端):先跑 trim_function_call_history_to_fit_context_window——从尾部往前把超窗的 function/custom tool output 原地改写成固定短句 “Output exceeded the available model context and was truncated”,call_id 和调用拓扑保留。目的很朴素:先保证压缩请求本身塞得进模型窗。
请求本体:不走专用 endpoint,就是普通 POST /responses SSE 流,复用当前 ModelClientSession(sticky 路由、重试上限特意压到 2)。区别只有一个:input 末尾追加 {“type”:“compaction_trigger”} 控制项。tools 和 base_instructions 照常全量携带——Responses API 无状态用法,每一轮都带,压缩这轮也不例外。
服务端(黑盒):折叠全部 assistant/reasoning/工具轨迹,流式返回恰好一个 Compaction{encrypted_content}。多了少了客户端直接判 Fatal。摘要用什么模型、怎么加密,客户端源码里无从证实——密钥在 OpenAI 侧,你拿到的永远是密文。
装回(客户端):从 compact 前的 input 里筛保留项——user/developer/system 消息 + 不超过 10k token 的 agent message 进候选;然后 developer 再被整体丢弃(防 stale 指令);按 64k token 预算从最新往回截断;最后 append 新胶囊。旧 blob 不保留,每窗只有最新一个。
收尾:按当前 session 重新渲染 initial context(AGENTS.md、环境、权限),mid-turn 场景强制插在最后一条真实 user 消息之前——因为模型被训练成期望 compaction item 是 history 的最后一项。
GIF made with ScreenCam @cats_juice & tldraw offline @tldraw
相似文章
@yadong_xie: GPT Astra 中最让我好奇的是这个不用 compaction 的 context 管理策略,今天花了点时间搞清楚: 启用新特性之后,codex 会在原来的 compaction 时机把目标、决策和进度写入 codex 服务端 not…
这篇文章探讨了GPT Astra中不使用压缩的上下文管理策略,通过服务器端笔记和历史记录来避免信息损耗,并讨论了相关工具和挑战。
@Pluvio9yte: OpenAI 内部发了份 PDF,讲他们自家工程师是怎么用 Codex 的 他们的安全、infra、前端、API 团队天天都在用: • 快速搞懂完全陌生的代码库 • 跨几十个文件的重构 • 生成 devs 容易漏掉的 edge case …
OpenAI published a guide detailing how their internal engineering teams use Codex for code understanding, refactoring, performance optimization, and more, highlighting practical use cases and best practices.
Codex 实际发送给模型的内容(10分钟阅读)
一篇技术深度文章,记录并分析了 Codex CLI 发送给模型的精确 HTTP 请求,测量了 token 数量,以及指令、工具和上下文是如何打包的。
@AYi_AInotes: https://x.com/AYi_AInotes/status/2066865618104586525
这是一篇对OpenAI Codex的全景分析文章,详细介绍了其架构(五个入口)、三层可扩展能力(MCP、Skills、Plugins)、与Claude Code、Cursor、Devin的横评对比,以及七条可直接采纳的最佳实践。
@goan999999: Codex + claude-mem 这套组合,Agent 工程师都要失业了! 以前用 Codex 开发 Agent,最崩溃的不是代码写不出来,而是 AI 根本记不住自己干过什么! 昨天刚解决的 Bug,今天又踩一遍;上个会话定好的架构,…
文章介绍开源工具 claude-mem 与 OpenAI Codex 的组合,通过自动记录开发过程、关键决策与 Bug 修复,并经语义搜索按需检索,为 AI 编程实现跨会话长期记忆,减少重复上下文与 Token 消耗。