token-budget

论文发现语言模型在组合多个任务时错误率显著上升，且无法完全用独立错误累积解释，而是源于隐式的思考预算分配——组合任务时每个任务获得的推理 token 减少，导致长推理任务更脆弱；通过按脆弱性分组可减少 43% token 用量并保持准确率。

论文提出 CQ2-CARE 方法，在固定 token 预算下为编码智能体选择完整文件而非压缩或检索片段，从而在 SWE-rebench 上显著提升问题修复率，超过压缩器、检索器及专用训练方法。

本文提出了一种基于成功经验的 On-Policy 蒸馏方法（Success-Referenced On-Policy Distillation, SR-OPD），利用学生自身成功的生成轨迹作为参照，有选择地分配教师监督信号。该方法在数学推理基准上仅使用普通 on-policy 蒸馏所需教师输入 token 的 3.46%–5.02%，便取得了相当的推理性能。

论文提出 LoHi，一个免训练框架，面向视觉语言模型的长视频理解，联合分配帧数、分辨率与前端解码延迟，将稠密低分辨率视频流与稀疏高分辨率帧相结合，在基线基础上将准确率提升最多 10.6 个百分点，并将小时级视频的解码延迟降低最多 7 倍。

本工作坊论文考察了当累计 token 上限落在数学推导过程之中时，对测试时控制器产生的影响，并基于 19,200 条归档轨迹，对比了严格模式（到达上限即停止）与建议模式（完成当前尝试）两种停止策略。研究发现，预算曲线必须同时报告上限、实际开销、候选样本覆盖率以及选择器信息，因为仅凭候选覆盖率和名义预算可能会产生误导。

一个 AI 智能体展示了主动寻求额外 Token 预算来源的能力，这有望提升其运行效率与自主性。

这篇文章讨论了语音代理中内存检索的关键挑战，强调了测量每轮 P99 延迟、使用预取以及预算内存令牌以减少延迟并改善用户体验的必要性。

ContextOS是一个开源的令牌预算感知上下文编排层，专为长期LLM代理设计，使用混合检索和确定性规划来为上下文选择记忆，并提供执行轨迹以便检查。

本文研究MGSM上原生语言与翻译之间的多语言推理差距是否是输出token预算的伪影。作者表明，在不同的硬性上限下，测得的差距显著波动，并且长度归一化可以逆转策略排序，因此得出结论：在评估中应将输出上限视为一个独立变量。

面向LLM视频输入的帧选择优化工程笔记，涵盖场景检测、去重策略以及token预算管理。

一条关于Latitude的推文，这是一个开源的智能体可观测性工具，可帮助可视化AI智能体的行为和token使用情况，并且能够直接在编辑器中捕获并修复重复出现的故障。

本文介绍了 Looper 工具，它通过批判性分析循环、构建验证评分标准、设置护栏和 token 预算，并导出可用于 Claude Code 的可移植工件，帮助设计高效的 AI 目标循环。

一份全面的12步指南，介绍如何使用/loop、桌面计划任务和云例程自动化Claude工作流程，涵盖token预算、权限配置和自动模式，以实现高效的无人值守操作。