token-efficiency

标签

Cards List
#token-efficiency

批量上下文强化 II:RLVR 需要长展开窗口吗?

arXiv cs.LG ↗ · 2026-10-19 缓存

这篇论文提出 Concurrent Constraint Reinforcement (CCR),将多个可独立验证的问题打包进单个受上限的补全中,使 RLVR 在 8,000 token 短窗口下仍保留正确性信号,相比 32k 窗口的 GRPO 每步训练 token 成本降低约 80%。

0 人收藏 0 人点赞
#token-efficiency

HotKV 在我们的 Banking77 基准测试中将 Claude 的 Token 消耗降低了 70%

Reddit r/AI_Agents ↗ · 2026-10-18

HotKV:一个用 C++20 从零编写的多线程、Redis 兼容的内存存储,内置面向 LLM 响应的语义缓存。在 Banking77 基准上对 Claude 系列模型测试显示,可将调用、Token 和成本减少约 70%,同时详细分析了语义缓存对答案质量的影响。

0 人收藏 0 人点赞
#token-efficiency

DeepSeek V4.1 Flash:1017 token 效率

Reddit r/LocalLLaMA ↗ · 2026-10-17

用户讨论 DeepSeek V4.1 Flash 的 token 效率表现,初步测试显示在高思考强度下 CoT 更短且质量更高,解决任务所需轮次更少,值得尝试。

0 人收藏 0 人点赞
#token-efficiency

@laobaishare: 这可是真干货 Anthropic 刚分享了 Claude Code 的一个超好用技巧。 思路是:同时用 Sonnet、Haiku 和 Opus 5.5,各干各最擅长的事。 效果更好,token 还省很多,因为每个任务都交给了合适的模型。 …

X AI KOLs Timeline ↗ · 2026-10-16 缓存

Anthropic 分享了一个 Claude Code 的多模型协作技巧:用 Sonnet 主持会话写代码、Haiku 并行翻文件、Opus 作为顾问把关重要决策,从而提升效果并大幅节省 token。

0 人收藏 0 人点赞
#token-efficiency

TRACER:面向大语言模型智能体的轨迹感知工具检索

arXiv cs.CL ↗ · 2026-10-16 缓存

本文提出 Tracer,一种面向 LLM 智能体的轨迹感知工具检索前端,用 trie 索引历史工具调用序列并结合经验与上下文先验对下一步调用进行排序。在六个环境、四个模型上,它在 24 组对比中 21 组提升了工具选择准确率,同时每步输入 token 减少约 61%–80%。

0 人收藏 0 人点赞
#token-efficiency

每一轮都输出所有 MCP 工具的模式定义,是运行框架的一个 bug

Reddit r/AI_Agents ↗ · 2026-10-15

文章讨论了在每个回合中把所有 MCP 工具 schema 塞进上下文是一种 harness 缺陷,会导致选错工具和 token 浪费;业界正在收敛到渐进式发现(progressive discovery)方案,如 Claude Code 的 MCP Tool Search 和 OpenAI 的延迟加载工具搜索,可减少 85% 以上的工具定义开销。

0 人收藏 0 人点赞
#token-efficiency

@cline:Gemini 4 Argon 在发布首日的用户占比创下了自六月以来所有在 Cline 上推出的前沿模型中的最高纪录。尝试使用它的用户数约为其他模型的 3 倍……

X AI KOLs Following ↗ · 2026-10-14 缓存

Cline 报告 Gemini 4 Argon 在发布当天创下自六月以来最佳的前沿模型用户份额,日首日试用量约为 Claude Opus 5.5 或 Sonnet 5.5 的三倍,且平均 token 消耗比 Claude 系列少约 30%。

0 人收藏 0 人点赞
#token-efficiency

Tessera-27B-B-CJK,Zellige AI 基于 Qwen 推出的全新微调模型,以新颖的方法重新思考如何节省 token

Reddit r/LocalLLaMA ↗ · 2026-10-14

Zellige AI 发布 Tessera-27B-B-CJK,这是一款基于 Qwen3.8-27B 微调的编码智能体模型,通过压缩式 CJK 思维(混合中英文与符号的简写)将每轮思考的 token 数降至基座模型的 0.50–0.64 倍,同时保持输出为正常英文与代码,模型权重以 Apache-2.0 许可证开放。

0 人收藏 0 人点赞
#token-efficiency

Gemini 4 Argon 成为宝可梦冠军所用的 token 数量,还不到 Gemini 3.8 Flash 获得 3 枚徽章所消耗的一半

Reddit r/singularity ↗ · 2026-10-14 缓存

“Gemini玩宝可梦”的开发者获得了Gemini 4 Argon的早期访问权限,用它通关《宝可梦蓝》仅耗时1,407回合(约25小时),并捕获了超梦,其词元消耗量不到Gemini 3.8 Flash获得三枚道馆徽章所用的一半。

0 人收藏 0 人点赞
#token-efficiency

@rohanpaul_ai:从 300 页 PDF 中提取截止日期,不需要一个会写作的模型。决策模型现在支持 100 万 token 窗口,……

X AI KOLs Following ↗ · 2026-10-13 缓存

ScaleDown 发布了三款小型 Constrained Decoding 模型(Classify、Extract、Summarize),支持 1M token 输入窗口和图像输入,通过单次 prefill 直接从输入中选取答案而非逐 token 生成,据称比前沿 LLM API 快 200 倍、便宜 467 倍。

0 人收藏 0 人点赞
#token-efficiency

中国刚让 AI 记忆初创公司捏了把汗 💀 腾讯开源了 Agent Memory,完全基于 SQLite 在本地运行

Reddit r/AI_Agents ↗ · 2026-10-13

腾讯开源了 Agent Memory,一个可 100% 本地基于 SQLite 运行的 AI 智能体长期记忆层,无需云端 API 或向量数据库,报告可减少约 61% token,PersonaMem 准确率从 48% 提升到 76%,且记忆可读可追溯。

0 人收藏 0 人点赞
#token-efficiency

我们原以为人们会在我们的平台上构建自己的智能体。结果发现,他们想按自己的方式构建,只把运行交给我们。

Reddit r/AI_Agents ↗ · 2026-10-12

公司宣布其智能体平台 2.0 大幅简化:砍掉 pods、工作流、记忆库和自研 SDK,改为兼容 OpenAI Agents API,支持任意模型(Claude、Gemini、开源权重、OpenRouter 或用户自带密钥),并聚焦于故障恢复、精确成本日志和严格按用户指定模型运行。

0 人收藏 0 人点赞
#token-efficiency

@NousResearch:野生的 MISSINGNO. 出现了!一个高度节省 token 的编码与智能体推理模型,限时免费 …

X AI KOLs Timeline ↗ · 2026-10-10 缓存

Nous Research 发布了名为 MISSINGNO. 的编码与智能体推理模型,主打高 token 效率,并在 Nous Portal 上限时免费提供,可直接在 Hermes Agent 中使用。

0 人收藏 0 人点赞
#token-efficiency

@mattpocockuk:正在考虑在 /retro 中添加一条建议,将重复性任务转化为自定义工具(即 CLI + 技能)正在聊…

X AI KOLs Timeline ↗ · 2026-10-10 缓存

Matt Pocock 考虑在 /retro 命令中加入建议,鼓励用户将重复任务转化为自定义工具(命令行工具 + 技能),让智能体将任务委派给脚本,从而减少词元消耗和幻觉。

0 人收藏 0 人点赞
#token-efficiency

我们用文件索引替代向量数据库做 agent 检索,这是其中的取舍

Reddit r/AI_Agents ↗ · 2026-10-09

作者分享用 INDEX.md 文件索引替代向量数据库做 agent 文档检索的实践:由 summarizer 生成每行描述,doc-searcher 子代理挑选并读取文件,把中间读取隔离在子代理上下文中。作者指出这节省的是上下文而非总 token,小规模文档集可行,但上千文档时索引本身会变重。

0 人收藏 0 人点赞
#token-efficiency

工具使用智能体的智能体控制遗忘:实践中的可逆上下文整理

arXiv cs.AI ↗ · 2026-10-09 缓存

本文提出了面向工具使用智能体的智能体控制遗忘机制,模型将冗长的工具输出替换为简短且可恢复的笔记,在一个探索性调试案例中将提示词 token 减少了约 50%,并将 API 成本从约 $4.38 降至 $1.28–$1.44,同时指出了与工作负载相关的权衡,例如请求数量增加和运行时间延长。

0 人收藏 0 人点赞
#token-efficiency

@RealYDT:别再盲目地把旗舰模型当苦力来烧上下文了——Anthropic 刚刚推出了最硬核…

X AI KOLs Timeline ↗ · 2026-10-07 缓存

Anthropic为Claude Code推出工业级多智能体协作架构:Haiku 5.5作为并行高速子代理处理机械性任务,Sonnet 5.5作为主力生成代码,Opus 5.5仅在关键决策点以`--advisor`身份介入,通过"三权分立"式分层显著降低旗舰模型的上下文与token消耗。

0 人收藏 0 人点赞
#token-efficiency

@mattpocockuk:今日提示词:/writing-for-agents 我的 AGENTS.md 混乱不堪,请提出一系列重构方案:- 删除无用指令……

X AI KOLs Timeline ↗ · 2026-10-06 缓存

Matt Pocock 分享了一段用于清理混乱 AGENTS.md 的「今日提示词」:删除无用指令(no-ops)、采用渐进式披露、将规范迁移到 CODING_STANDARDS.md,并通过三个激进程度依次递增的子代理将重构工作合并为一个 PR。他认为 AGENTS.md 是智能体工作流中 token 效率低下的最大来源。

0 人收藏 0 人点赞
#token-efficiency

@trq212:采用这种方式进行规划的一大优势是,相比原始 HTML,它在 token 使用上高效得多——模型不需…

X AI KOLs Following ↗ · 2026-10-06 缓存

Thariq(@trq212)分享了一个 Claude Code 技能,通过使用简单语言、代码片段和 linting 来改进 HTML 规划,并指出这种方式比生成原始 HTML 更节省 token。目前正在进行更广泛发布前的反馈征集。

0 人收藏 0 人点赞
#token-efficiency

无状态语言智能体:扩展长时程自动化研究

Hugging Face Daily Papers ↗ · 2026-10-06 缓存

论文提出无状态语言代理 (SLAs),采用「有状态搜索 + 无状态代理」原则,由框架持有研究状态并为每次调用重建专属上下文,在长达十亿 token 的预算下于软件工程、内核优化和算法设计任务中均取得最佳结果,且比最强基线节省超过 84% 的 token。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈