Claude的标记限制让我重新思考记忆:为什么“更多上下文”并不等同于“更好的记忆”

Reddit r/AI_Agents 新闻

摘要

一篇观点文章,认为像Claude这样的模型中更大的标记窗口并不等同于更好的长期记忆;真正的记忆需要超越上下文大小的结构化、总结和检索。

我最近一直在思考Claude的标记窗口,尤其是在构建代理工作流时,模型可以在短期内“记住”很多东西,但在较长的交互中仍然会失去线索。让我印象深刻的是 **标记和记忆不是同一个问题**。更大的上下文窗口可以帮助你在单个提示中传递更多信息,但它并不会自动解决:* 哪些应该长期保留,* 哪些应该总结或压缩,* 哪些应该被遗忘,* 以及如何跨会话保留有用的用户偏好或决策。在实践中,我发现很多“记忆”问题实际上是 **检索和结构** 问题,而不仅仅是上下文大小问题。我看到的几点:* 标记密集的提示可以掩盖糟糕的记忆设计。* 长上下文可以让模型感觉更聪明,但并没有让它更持久。* 真正的挑战在于决定哪些内容值得放在提示之外。我很好奇其他人怎么看待这个问题:* 你是否将Claude的标记窗口视为记忆的替代品?* 还是你完全将记忆视为一个独立的系统?* 你用什么策略来保持代理在多个会话中持续有用?很想听听其他开发者如何处理这个权衡。
查看原文

相似文章

@_avichawla: 更聪明的 Claude 模型消耗的 tokens 更多,而不是更少!而且这不是 3-5% 的微小差异,而是高出 54% 的 token 使用量。…

X AI KOLs Following

本文分析了为何像 Claude 这样更智能的 AI Agent 在与 Supabase 等以人类为中心的后端交互时会消耗更多 Token,主要原因在于上下文发现效率低下。文章引入了 InsForge,这是一款专为 Agent 设计的开源后端工具,通过提供结构化的上下文来显著降低 Token 用量和人工干预。