cost-optimization

标签

Cards List
#cost-optimization

@dair_ai:微软一篇关于上下文引导模型路由的有趣论文。他们发现了一种巧妙的方法,在多轮对话场景中实现成本感知的模型路由……

X AI KOLs Timeline ↗ · 2026-10-16 缓存

微软的研究论文提出在用户轮次边界进行上下文感知的模型路由,发现将会话历史提供给路由器可在相同卸载率下提升多轮电子表格智能体的任务通过率,并分析了提示缓存切换的不对称成本与廉价模型的成本优势衰减。

0 人收藏 0 人点赞
#cost-optimization

Grok Bot:到底是什么耗光了我的用量?!我逐次计算了一周内每次调用的费用。长时间运行的任务占了总费用的 52%。

Reddit r/AI_Agents ↗ · 2026-10-15

一名用户详细拆解了自己一周内使用 Grok Bot 的费用:升级到每月 $200 套餐,其中 52% 的成本来自 16 步以上的长任务,90% 的 token 是对已有上下文的重复读取。文章给出了测量用量、脚本化重复任务、将长任务交给独立代理等省钱建议。

0 人收藏 0 人点赞
#cost-optimization

路由器是新的 AI 原语(13 分钟阅读)

TLDR AI ↗ · 2026-10-15 缓存

Vals AI 认为,模型路由器(model routers)正在成为 AI 技术栈中的一种新原语。研究表明,在 Vals Index 上,一个"神谕"路由器(oracle router)可以比最强单一模型高出 14 个点,同时成本降低约 40%——因为在各项基准测试中,前沿模型的表现仍然参差不齐("jagged")。

0 人收藏 0 人点赞
#cost-optimization

@heyshrutimishra:每位用户每天在 Status 上花九十分钟。原以为这种使用量意味着推理成本只能照单全收。Inworld 开始……

X AI KOLs Following ↗ · 2026-10-14 缓存

一条推文强调,Status 的年化收入已增长至数千万,同时借助 Inworld 将 AI 推理成本降低约 95%,且未降低内容质量,尽管用户每天在该应用中花费约 90 分钟。

0 人收藏 0 人点赞
#cost-optimization

导航

Product Hunt ↗ · 2026-10-14 缓存

Navige 是一款在 AI 智能体运行时降低成本的工具,通过充分性智能将请求智能路由到更小的模型、缓存重复读取并精简工具输出,同时提供预算设置、失控循环检测和敏感操作审批功能。

0 人收藏 0 人点赞
#cost-optimization

Ramp Glass(4 分钟阅读)

TLDR AI ↗ · 2026-10-14 缓存

Ramp 推出 Glass,一款可跨团队共享公司知识、可复用技能与协作会话的 AI 工作区,通过模型路由使 AI 成本降低 30%,并大幅扩展了工作流自动化能力。

0 人收藏 0 人点赞
#cost-optimization

我们如何解决生产环境中多步骤 AI 智能体的 LLM 成本失控问题并实现循环保护(架构与真实数据)

Reddit r/AI_Agents ↗ · 2026-10-13

GuardrailX 的联合创始人分享了如何通过在代理框架与 LLM 供应商之间加入代理网关,实现自动循环检测、语义路由和 LLM-as-a-Judge 质量评估,并展示了基于 3,500 多条生产请求日志得出的约 54% 成本削减数据。

0 人收藏 0 人点赞
#cost-optimization

决策模型将智能体的 LLM 调用次数减少了 29.6%(阅读需 1 分钟)

TLDR AI ↗ · 2026-10-13

将步骤完成检查和限定范围内的决策交给 Jev,使 Qwen 智能体调用次数减少了 29.6%,估算的 API 成本降低了 26.6%,延迟缩短了 19.7%。

0 人收藏 0 人点赞
#cost-optimization

Launch HN:Agent37(YC F26)——用于运行智能体的低成本智能体沙箱

Hacker News Top ↗ · 2026-10-12

YC F26 初创公司 Agent37 推出用于运行 AI 智能体的低成本沙箱,价格不到竞争对手的 10%,每个沙箱平均每月仅需 0.37 美元;目前还提供免费套餐,依托 CPU/RAM 突发资源优化、Hetzner/OVH 等非超大规模云服务商,以及基于 gVisor 的资源共享技术。

0 人收藏 0 人点赞
#cost-optimization

@akshay_pachaar: https://x.com/akshay_pachaar/status/2109678653974155459

X AI KOLs Timeline ↗ · 2026-10-12 缓存

文章介绍了 TypeSafe AI 的 Jev 'System One' 决策模型在开源 Agent Harness 中的表现:在 40 个决策任务上达到与 Opus 相同的准确率,同时决策成本降低约 150 倍,并通过置信度校准将不确定答案路由到人工审核。

0 人收藏 0 人点赞
#cost-optimization

实现 Kubernetes 节点装箱

Lobsters Hottest ↗ · 2026-10-12 缓存

CostGraph 博客详解如何将 Kubernetes 节点资源整理建模为多维向量装箱问题(d 维 vector bin packing),说明为何按单一尺寸排序(first fit decreasing)会浪费容量,并介绍基于 Panigrahy et al. (2011) 几何启发式、结合真实用量 P95 与调度器硬性约束的贪心打包方案。

0 人收藏 0 人点赞
#cost-optimization

在单智能体和多智能体配置下节省使用额度

Reddit r/ArtificialInteligence ↗ · 2026-10-12

一位实践者分享了在 Codex 和 Claude 中通过选择单智能体或多智能体配置来节省 AI 使用额度的技巧,并指出子智能体和反复交叉核查会消耗 token,却无法改善结果。作者测试了以 Opus 5.5 作为协调器,动态选择 Haiku 5.5 Short 或 Long,并优化缓存设置,将两小时内的用量降至每周额度的约 5%。

0 人收藏 0 人点赞
#cost-optimization

与语音智能体进行一次真实对话的成本(详细拆解)

Reddit r/AI_Agents ↗ · 2026-10-11

一位自动化机构从业者逐项拆解4分钟语音外呼的真实成本(约39美分),指出平台费占一半、LLM仅占10%,并建议开启提示词缓存、裁剪工具返回结果,而非一味更换便宜模型。

0 人收藏 0 人点赞
#cost-optimization

Jev 与 LLM 评判模型在我的智能体评估中的对比:成本降至 1/180,准确率低 2.6 个百分点

Reddit r/AI_Agents ↗ · 2026-10-10

作者对比了 Jev 与三种 LLM 评审(Sonnet、Haiku、Gemini Flash Lite)在智能体评测中的表现:Jev 成本低 180 倍(每 1k 条裁决 $0.07)但准确率低 2.6 个百分点(90.6% vs 93.2%),建议采用 Jev 先筛 + Sonnet 处理约 16% 不确定样本的级联方案,以 1/6 成本达到 Sonnet 级准确率。

0 人收藏 0 人点赞
#cost-optimization

Asana 称缓存改造将浏览器智能体的成本降低了 76 倍

Reddit r/artificial ↗ · 2026-10-09

Asana 表示,通过稳定页面历史记录以启用提示缓存,并批量裁剪截图(而非更换底层模型),将浏览器智能体工作流的模型成本降低了 76 倍(每次运行从 36.21 美元降至 0.47 美元),运行时间也从 22.5 分钟缩短到约 4 分钟。

0 人收藏 0 人点赞
#cost-optimization

Asana 在浏览器测试中借助 GPT-6.1 Sol 将模型成本降低 76 倍

OpenAI Blog ↗ · 2026-10-09 缓存

Asana 通过在 Codex 中使用 GPT-6 Astra 优化其 StackAI 浏览器代理工作流,在 GPT-6.1 Sol 上实现了成本降低 76 倍、速度提升 5 倍,原本需要一到两个月的手动研究工作缩短至约一周。

0 人收藏 0 人点赞
#cost-optimization

工具使用智能体的智能体控制遗忘:实践中的可逆上下文整理

arXiv cs.AI ↗ · 2026-10-09 缓存

本文提出了面向工具使用智能体的智能体控制遗忘机制,模型将冗长的工具输出替换为简短且可恢复的笔记,在一个探索性调试案例中将提示词 token 减少了约 50%,并将 API 成本从约 $4.38 降至 $1.28–$1.44,同时指出了与工作负载相关的权衡,例如请求数量增加和运行时间延长。

0 人收藏 0 人点赞
#cost-optimization

@interjc:如果你是 Cloudflare Workers 付费用户,一定要防范网络攻击或失控的代码循环,否则账单可能直接爆表……

X AI KOLs Timeline ↗ · 2026-10-09 缓存

作者分享如何避免 Cloudflare Workers 产生高额 Durable Objects 费用:将 MCP Server 从 McpAgent 迁移到无状态的 createMcpHandler,删除未使用的 DO 绑定,关闭 workers.dev 和预览 URL,并附上一段可复用的审计提示词。

0 人收藏 0 人点赞
#cost-optimization

@jefffhj:试试 Grok Imagine Video 1.5 Lite——速度更快、价格更低,而且质量不错。

X AI KOLs Following ↗ · 2026-10-09 缓存

推广 Grok Imagine Video 1.5 Lite,宣称速度更快、成本约为原来的20%,且保持相近质量。

0 人收藏 0 人点赞
#cost-optimization

为什么要花钱让一个模型去即兴发挥你已经熟知的工作流?

Reddit r/AI_Agents ↗ · 2026-10-08

作者提出一种新思路:构建大量用自然语言描述的任务专用 agent,通过语义搜索为每个请求匹配并执行正确的 agent,以此规避 Claude Code 等 agent 框架工具集过大、上下文腐化、不可预测和成本膨胀的问题。文中还对比了 Agent/MCP 网关、子 agent 和工具搜索等替代方案。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈