context-window

标签

Cards List
#context-window

如何查看你的 MCP 工具在第一条消息发送前占用了多少上下文

Reddit r/AI_Agents ↗ · 2026-10-29

讨论指出,MCP 工具定义会占用大量常驻上下文——有用户卸载一个大型 MCP 服务器后,上下文从约 200K 降至约 10K 词元。文章提供了如何在首次对话前检查工具开销的实用建议,包括检查请求日志、按需禁用服务器及使用延迟加载。

0 人收藏 0 人点赞
#context-window

Qwen4 100万 token 上下文窗口

Reddit r/LocalLLaMA ↗ · 2026-10-29

据传,Qwen4 模型将支持 100 万 token 的上下文窗口,Qwen4-max 据称将于 10 月 1 日左右发布,而 Qwen4-27B 则可能在荷兰云栖大会上公布。

0 人收藏 0 人点赞
#context-window

@dotey: 如果你在用 Claude Code 的话,再推荐下记得运行下 /autocompact 300k (原推是400k,我自己用下来300k就足够了,当然选哪个你可以自己决定) 自动压缩(Auto-compact)的作用是将整段长对话精简为简…

X AI KOLs Timeline ↗ · 2026-10-28 缓存

宝玉建议 Claude Code 用户运行 /autocompact 300k,将自动压缩触发阈值从默认的约 967K 提前到 300K,从而保持对话历史精简、显著节省长对话中的 Token 消耗。Lydia Hallie 补充说明 auto-compact 会将整段对话替换为简短摘要。

0 人收藏 0 人点赞
#context-window

Grok Bot:到底是什么耗光了我的用量?!我逐次计算了一周内每次调用的费用。长时间运行的任务占了总费用的 52%。

Reddit r/AI_Agents ↗ · 2026-10-15

一名用户详细拆解了自己一周内使用 Grok Bot 的费用:升级到每月 $200 套餐,其中 52% 的成本来自 16 步以上的长任务,90% 的 token 是对已有上下文的重复读取。文章给出了测量用量、脚本化重复任务、将长任务交给独立代理等省钱建议。

0 人收藏 0 人点赞
#context-window

每一轮都输出所有 MCP 工具的模式定义,是运行框架的一个 bug

Reddit r/AI_Agents ↗ · 2026-10-15

文章讨论了在每个回合中把所有 MCP 工具 schema 塞进上下文是一种 harness 缺陷,会导致选错工具和 token 浪费;业界正在收敛到渐进式发现(progressive discovery)方案,如 Claude Code 的 MCP Tool Search 和 OpenAI 的延迟加载工具搜索,可减少 85% 以上的工具定义开销。

0 人收藏 0 人点赞
#context-window

提醒:从今天起,GPT 6.1 Sol 的默认上下文窗口为 500k(阅读约 1 分钟)

TLDR AI ↗ · 2026-10-14 缓存

一条 Thread Reader 聚合帖宣称 GPT 6.1 Sol 默认上下文窗口达到 500k,但未提供官方来源佐证,可能属于传闻或推测性消息。

0 人收藏 0 人点赞
#context-window

@reach_vb:公告:从今天起,GPT 6.1 Sol 的默认上下文窗口为 500k(此前为 272k)。这应该意味着……减少到原来的 1/2–1/3……

X AI KOLs Following ↗ · 2026-10-12 缓存

OpenAI 宣布 GPT-6.1 Sol 的默认上下文窗口从 272k 提升至 500k(约 80% 增幅),在 Codex 和 ChatGPT Work 中免费提供,可减少长任务中的上下文压缩次数并加快端到端完成速度。

0 人收藏 0 人点赞
#context-window

几个月来,我一直让四个长期运行的智能体负责运营我的新闻通讯。难点不在于记忆,而在于上下文窗口。

Reddit r/AI_Agents ↗ · 2026-10-12

作者分享用四个长期运行的 Claude Code 智能体运营自己的 AI 通讯的经验,指出最大瓶颈不是记忆或工具,而是上下文窗口,并介绍了智能体自写检查点、自清空、自我恢复的机制,以及相关的失败案例和开源工具。

0 人收藏 0 人点赞
#context-window

@sailfishcc1: 巨大

X AI KOLs Timeline ↗ · 2026-10-11 缓存

OpenAI 的 Tibo(@thsottiaux)宣布,通过 Codex 和 Work 使用 GPT-6.1 Sol 时,其默认上下文长度已从 27.2 万 token 增加到 50 万 token(增幅约 80%),并计划进一步提高,以减少处理上下文密集型任务时的上下文压缩次数。

0 人收藏 0 人点赞
#context-window

我们的语音智能体编造了一个送货日期,然后连续三个回合都坚持这个说法。

Reddit r/AI_Agents ↗ · 2026-10-10

一位从业者描述了他们的 AI 语音智能体如何凭空编造了一个交付日期,并在自身输出不断累积到上下文中时,在多轮对话里愈发坚持这一说法;还介绍了如何通过将工具返回的事实与智能体自身的发言分开,比提示模型将自己的回答视为暂定结论更可靠地解决了这一问题。

0 人收藏 0 人点赞
#context-window

@realfxw:最近用 Claude Code 跑长时间任务时,你是否经常觉得 5 小时的配额像流水一样消耗掉?……

X AI KOLs Timeline ↗ · 2026-10-10 缓存

一位推主根据 Anthropic 工程师 Lydia Hallie 的官方解释,澄清了 Claude Code 的 auto-compact 机制:默认在接近 967K 上下文时才触发压缩,导致长任务持续携带巨量上下文而快速消耗 5 小时配额。文中建议通过 /autocompact 400k、autoCompactWindow、promptCacheTtl 等配置提前压缩并优化缓存。

0 人收藏 0 人点赞
#context-window

@LangChain:什么是 Agent 技能?(或者说,如何保护你的 Agent 的上下文窗口)LangChain Academy 的 2 分钟速览……

X AI KOLs Timeline ↗ · 2026-10-07 缓存

LangChain Academy 正在推广其免费课程《Foundation:Deep Agents 入门》,该课程共 46 节,内容涵盖 Agent 技能、上下文窗口保护、MCP、检查点(checkpointers)、人机协同(HITL)以及子 Agent 委派,帮助你构建可长时间运行的 AI Agent。

0 人收藏 0 人点赞
#context-window

像1930年代设计院一样运行六模型智能体集群:集群只贡献了+0.05,真正起作用的是拆分工作

Reddit r/AI_Agents ↗ · 2026-10-04

一项自主实验将六模型1-2B本地智能体集群(借鉴1930年代苏联设计院按学科划分的组织架构)与单模型在文档抽取任务上对比,发现真正的收益来自将输入切分成块,而非智能体协作(集群仅贡献+0.05,严格意义上的涌现为零)。

0 人收藏 0 人点赞
#context-window

Periscope:让冻结的语言模型超越其上下文窗口进行扩展

Hugging Face Daily Papers ↗ · 2026-10-02 缓存

Periscope 提出一种无需训练的推理方法,将文本块排列在 K×K 网格上,并让冻结的语言模型针对局部跨度与跨步跨度进行查询,从而在上下文窗口之外恢复答案。在 LongBench v2 和 InfiniteBench 上,该方法以远低于全窗口读取的成本达到甚至超越全窗口读取的效果。借助将长文本读取替换为证据图,一个 27B 模型可在单张 80GB GPU 上读取 450 万 token 的上下文。

0 人收藏 0 人点赞
#context-window

M5 Ultra 实测:Qwen3.8 Flash Next 对决 Laguna S 2.1

Reddit r/LocalLLaMA ↗ · 2026-09-30

在同一台 Mac Studio M5 Ultra 256GB 上,使用相同框架对比了 Qwen3.8-Flash-Next(182GB oQ8e)与 Laguna-S-2.1 GGUF 在最高 262K 上下文下的表现。Qwen 在预填充阶段保持约 4,200 tok/s 的线性速度,解码稳定;而 Laguna 则呈超线性退化;质量方面双方 4/4 打平,但答题风格迥异。

0 人收藏 0 人点赞
#context-window

@rohanpaul_ai:AI 生成的小说读起来像流水线垃圾,原因有几点:> 聊天机器人一次只回答一个提示 > 上下文窗口有限。h…

X AI KOLs Timeline ↗ · 2026-09-30 缓存

Rohan Paul 解释了 AI 生成的小说为什么读起来像流水线垃圾——单提示的聊天机器人设计、上下文窗口有限,以及无法记住长篇故事中埋下的伏笔——并重点介绍了 Sherpa,该系统使用专门的智能体(创意、结构、研究、行文、审阅)加上一个叙事世界模型来追踪故事历史和连贯性。

0 人收藏 0 人点赞
#context-window

Memorizon:让世界模型在上下文窗口之外完成训练

Hugging Face Daily Papers ↗ · 2026-09-30 缓存

Memorizon 通过相机共视关系让每个被评分的片段检索一个共享的、有界的 top-K 隐变量库,从而在流式世界模型中将长跨度监督与注意力解耦,以极低的额外开销实现超出上下文窗口的一致性重访。与滑动窗口基线相比,检索将重访一致性提升最高达 30%,且结果表明模型确实利用了检索到的隐变量。

0 人收藏 0 人点赞
#context-window

我运行Francis作为1M上下文Discord代理23小时,并在上下文窗口65%时目睹它彻底失控

Reddit r/openclaw ↗ · 2026-09-29

运行一个由OpenClaw和GLM 5.3 Flash驱动的Discord代理23小时,导致在1M上下文窗口约65%处出现故障,暴露了重负载下的缓存和模型性能问题。

0 人收藏 0 人点赞
#context-window

@RayFernando1337:这将震撼互联网。10M上下文窗口技术报告现已发布。https://voltropy.com/assets/…

X AI KOLs Timeline ↗ · 2026-09-29 缓存

Voltropy发布了一份关于10M上下文窗口模型的技术报告,可能彻底改变人工智能处理超长文本的能力。

0 人收藏 0 人点赞
#context-window

竞争条件下的自注意力检索能力

Hugging Face Daily Papers ↗ · 2026-09-29 缓存

该论文研究语言模型自注意力机制的实际检索能力,通过仅保留每层每头注意力权重最高的令牌,估计在给定损失容忍度下保持性能所需的有效注意力集大小,发现较小集即可接近全注意力基线,且注意力集大小随上下文增长而增加,即使没有更多信息需要检索。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈