@ninthbit_ai: 最近学习了一下 Codex 的 Compaction,把默认路径 Remote Compaction v2 的完整数据流画成了一张图 触发:token_limit_reached,或 mid-turn 工具循环里模型主动要求新窗口。触发点…

X AI KOLs Timeline 新闻

摘要

作者分析了 Codex 的 Remote Compaction v2 数据流,包括触发条件、请求处理、服务端密文返回和客户端上下文重建的完整流程,指出摘要模型与加密密钥均在 OpenAI 侧。

最近学习了一下 Codex 的 Compaction,把默认路径 Remote Compaction v2 的完整数据流画成了一张图 触发:token_limit_reached,或 mid-turn 工具循环里模型主动要求新窗口。触发点在 session/turn.rs 的 run_auto_compact,路由顺序:TokenBudget 特性 → remote v2(默认开启)→ remote v1 → 本地 handoff 摘要兜底。 请求前(客户端):先跑 trim_function_call_history_to_fit_context_window——从尾部往前把超窗的 function/custom tool output 原地改写成固定短句 "Output exceeded the available model context and was truncated",call_id 和调用拓扑保留。目的很朴素:先保证压缩请求本身塞得进模型窗。 请求本体:不走专用 endpoint,就是普通 POST /responses SSE 流,复用当前 ModelClientSession(sticky 路由、重试上限特意压到 2)。区别只有一个:input 末尾追加 {"type":"compaction_trigger"} 控制项。tools 和 base_instructions 照常全量携带——Responses API 无状态用法,每一轮都带,压缩这轮也不例外。 服务端(黑盒):折叠全部 assistant/reasoning/工具轨迹,流式返回恰好一个 Compaction{encrypted_content}。多了少了客户端直接判 Fatal。摘要用什么模型、怎么加密,客户端源码里无从证实——密钥在 OpenAI 侧,你拿到的永远是密文。 装回(客户端):从 compact 前的 input 里筛保留项——user/developer/system 消息 + 不超过 10k token 的 agent message 进候选;然后 developer 再被整体丢弃(防 stale 指令);按 64k token 预算从最新往回截断;最后 append 新胶囊。旧 blob 不保留,每窗只有最新一个。 收尾:按当前 session 重新渲染 initial context(AGENTS.md、环境、权限),mid-turn 场景强制插在最后一条真实 user 消息之前——因为模型被训练成期望 compaction item 是 history 的最后一项。 GIF made with ScreenCam @cats_juice & tldraw offline @tldraw
查看原文
查看缓存全文

缓存时间: 2026/08/03 19:49

最近学习了一下 Codex 的 Compaction,把默认路径 Remote Compaction v2 的完整数据流画成了一张图

触发:token_limit_reached,或 mid-turn 工具循环里模型主动要求新窗口。触发点在 session/turn.rs 的 run_auto_compact,路由顺序:TokenBudget 特性 → remote v2(默认开启)→ remote v1 → 本地 handoff 摘要兜底。

请求前(客户端):先跑 trim_function_call_history_to_fit_context_window——从尾部往前把超窗的 function/custom tool output 原地改写成固定短句 “Output exceeded the available model context and was truncated”,call_id 和调用拓扑保留。目的很朴素:先保证压缩请求本身塞得进模型窗。

请求本体:不走专用 endpoint,就是普通 POST /responses SSE 流,复用当前 ModelClientSession(sticky 路由、重试上限特意压到 2)。区别只有一个:input 末尾追加 {“type”:“compaction_trigger”} 控制项。tools 和 base_instructions 照常全量携带——Responses API 无状态用法,每一轮都带,压缩这轮也不例外。

服务端(黑盒):折叠全部 assistant/reasoning/工具轨迹,流式返回恰好一个 Compaction{encrypted_content}。多了少了客户端直接判 Fatal。摘要用什么模型、怎么加密,客户端源码里无从证实——密钥在 OpenAI 侧,你拿到的永远是密文。

装回(客户端):从 compact 前的 input 里筛保留项——user/developer/system 消息 + 不超过 10k token 的 agent message 进候选;然后 developer 再被整体丢弃(防 stale 指令);按 64k token 预算从最新往回截断;最后 append 新胶囊。旧 blob 不保留,每窗只有最新一个。

收尾:按当前 session 重新渲染 initial context(AGENTS.md、环境、权限),mid-turn 场景强制插在最后一条真实 user 消息之前——因为模型被训练成期望 compaction item 是 history 的最后一项。

GIF made with ScreenCam @cats_juice & tldraw offline @tldraw

相似文章

@AYi_AInotes: https://x.com/AYi_AInotes/status/2066865618104586525

X AI KOLs Timeline

这是一篇对OpenAI Codex的全景分析文章,详细介绍了其架构(五个入口)、三层可扩展能力(MCP、Skills、Plugins)、与Claude Code、Cursor、Devin的横评对比,以及七条可直接采纳的最佳实践。

@goan999999: Codex + claude-mem 这套组合,Agent 工程师都要失业了! 以前用 Codex 开发 Agent,最崩溃的不是代码写不出来,而是 AI 根本记不住自己干过什么! 昨天刚解决的 Bug,今天又踩一遍;上个会话定好的架构,…

X AI KOLs Timeline

文章介绍开源工具 claude-mem 与 OpenAI Codex 的组合,通过自动记录开发过程、关键决策与 Bug 修复,并经语义搜索按需检索,为 AI 编程实现跨会话长期记忆,减少重复上下文与 Token 消耗。