标签
讨论指出,MCP 工具定义会占用大量常驻上下文——有用户卸载一个大型 MCP 服务器后,上下文从约 200K 降至约 10K 词元。文章提供了如何在首次对话前检查工具开销的实用建议,包括检查请求日志、按需禁用服务器及使用延迟加载。
据传,Qwen4 模型将支持 100 万 token 的上下文窗口,Qwen4-max 据称将于 10 月 1 日左右发布,而 Qwen4-27B 则可能在荷兰云栖大会上公布。
宝玉建议 Claude Code 用户运行 /autocompact 300k,将自动压缩触发阈值从默认的约 967K 提前到 300K,从而保持对话历史精简、显著节省长对话中的 Token 消耗。Lydia Hallie 补充说明 auto-compact 会将整段对话替换为简短摘要。
一名用户详细拆解了自己一周内使用 Grok Bot 的费用:升级到每月 $200 套餐,其中 52% 的成本来自 16 步以上的长任务,90% 的 token 是对已有上下文的重复读取。文章给出了测量用量、脚本化重复任务、将长任务交给独立代理等省钱建议。
文章讨论了在每个回合中把所有 MCP 工具 schema 塞进上下文是一种 harness 缺陷,会导致选错工具和 token 浪费;业界正在收敛到渐进式发现(progressive discovery)方案,如 Claude Code 的 MCP Tool Search 和 OpenAI 的延迟加载工具搜索,可减少 85% 以上的工具定义开销。
一条 Thread Reader 聚合帖宣称 GPT 6.1 Sol 默认上下文窗口达到 500k,但未提供官方来源佐证,可能属于传闻或推测性消息。
OpenAI 宣布 GPT-6.1 Sol 的默认上下文窗口从 272k 提升至 500k(约 80% 增幅),在 Codex 和 ChatGPT Work 中免费提供,可减少长任务中的上下文压缩次数并加快端到端完成速度。
作者分享用四个长期运行的 Claude Code 智能体运营自己的 AI 通讯的经验,指出最大瓶颈不是记忆或工具,而是上下文窗口,并介绍了智能体自写检查点、自清空、自我恢复的机制,以及相关的失败案例和开源工具。
OpenAI 的 Tibo(@thsottiaux)宣布,通过 Codex 和 Work 使用 GPT-6.1 Sol 时,其默认上下文长度已从 27.2 万 token 增加到 50 万 token(增幅约 80%),并计划进一步提高,以减少处理上下文密集型任务时的上下文压缩次数。
一位从业者描述了他们的 AI 语音智能体如何凭空编造了一个交付日期,并在自身输出不断累积到上下文中时,在多轮对话里愈发坚持这一说法;还介绍了如何通过将工具返回的事实与智能体自身的发言分开,比提示模型将自己的回答视为暂定结论更可靠地解决了这一问题。
一位推主根据 Anthropic 工程师 Lydia Hallie 的官方解释,澄清了 Claude Code 的 auto-compact 机制:默认在接近 967K 上下文时才触发压缩,导致长任务持续携带巨量上下文而快速消耗 5 小时配额。文中建议通过 /autocompact 400k、autoCompactWindow、promptCacheTtl 等配置提前压缩并优化缓存。
LangChain Academy 正在推广其免费课程《Foundation:Deep Agents 入门》,该课程共 46 节,内容涵盖 Agent 技能、上下文窗口保护、MCP、检查点(checkpointers)、人机协同(HITL)以及子 Agent 委派,帮助你构建可长时间运行的 AI Agent。
一项自主实验将六模型1-2B本地智能体集群(借鉴1930年代苏联设计院按学科划分的组织架构)与单模型在文档抽取任务上对比,发现真正的收益来自将输入切分成块,而非智能体协作(集群仅贡献+0.05,严格意义上的涌现为零)。
Periscope 提出一种无需训练的推理方法,将文本块排列在 K×K 网格上,并让冻结的语言模型针对局部跨度与跨步跨度进行查询,从而在上下文窗口之外恢复答案。在 LongBench v2 和 InfiniteBench 上,该方法以远低于全窗口读取的成本达到甚至超越全窗口读取的效果。借助将长文本读取替换为证据图,一个 27B 模型可在单张 80GB GPU 上读取 450 万 token 的上下文。
在同一台 Mac Studio M5 Ultra 256GB 上,使用相同框架对比了 Qwen3.8-Flash-Next(182GB oQ8e)与 Laguna-S-2.1 GGUF 在最高 262K 上下文下的表现。Qwen 在预填充阶段保持约 4,200 tok/s 的线性速度,解码稳定;而 Laguna 则呈超线性退化;质量方面双方 4/4 打平,但答题风格迥异。
Rohan Paul 解释了 AI 生成的小说为什么读起来像流水线垃圾——单提示的聊天机器人设计、上下文窗口有限,以及无法记住长篇故事中埋下的伏笔——并重点介绍了 Sherpa,该系统使用专门的智能体(创意、结构、研究、行文、审阅)加上一个叙事世界模型来追踪故事历史和连贯性。
Memorizon 通过相机共视关系让每个被评分的片段检索一个共享的、有界的 top-K 隐变量库,从而在流式世界模型中将长跨度监督与注意力解耦,以极低的额外开销实现超出上下文窗口的一致性重访。与滑动窗口基线相比,检索将重访一致性提升最高达 30%,且结果表明模型确实利用了检索到的隐变量。
运行一个由OpenClaw和GLM 5.3 Flash驱动的Discord代理23小时,导致在1M上下文窗口约65%处出现故障,暴露了重负载下的缓存和模型性能问题。
Voltropy发布了一份关于10M上下文窗口模型的技术报告,可能彻底改变人工智能处理超长文本的能力。
该论文研究语言模型自注意力机制的实际检索能力,通过仅保留每层每头注意力权重最高的令牌,估计在给定损失容忍度下保持性能所需的有效注意力集大小,发现较小集即可接近全注意力基线,且注意力集大小随上下文增长而增加,即使没有更多信息需要检索。