token-cost

讨论如何通过结构化信息而非将所有内容都输入语言模型的上下文来降低 token 成本，并以一个 RLM 代理处理大量日志行但只使用少量活跃 token 为例。

一个 GitHub 工具，通过根据提示复杂度动态调整 effort/thinking 参数来降低 Claude API 成本。

这篇论文提出了一个名为 Efficiency Frontier 的统一框架，将大模型上下文管理视为部署优化问题，联合建模任务表现、token 开销和预处理复用。在 5000 个 HotpotQA 实例上，部署优化可节省 25% 的 token 量，而记忆压缩在高精度场景下比全上下文便宜一半以上。

一份实用指南，解释Claude Code中的提示缓存工作原理，如何将Token成本降低90%，以及常见的破坏缓存的习惯，帮助开发者延长会话时长并降低成本。

OpenSquilla 推出了一款开源 AI 代理运行时，通过智能路由、缓存和四层记忆架构来降低 Token 成本，声称可节省 60-80% 的费用。