cost-optimization

标签

Cards List
#cost-optimization

Revolut 转向自行托管的 GLM

Hacker News Top ↗ · 6天前 缓存

Revolut 将约 2,000 名工程师迁移至自托管的 GLM 模型进行编程,停用 Claude Code 和 Codex,仅保留例外使用权限——这些模型运行在 56 块英伟达 B200 GPU 上,每百万 token 的综合成本为 0.30 美元(约为此前 Anthropic/OpenAI 支出的十分之一),工程交付周期缩短了 70%。

0 人收藏 0 人点赞
#cost-optimization

Harness 2:在智能体代码流式生成时执行(阅读约需 6 分钟)

TLDR AI ↗ · 6天前

Framer 的 Harness 2 通过在 JavaScript 流式生成的同时执行代码,升级了智能体的代码执行能力,将成本降低高达 33%,执行速度提升 20%,同时显著减少工具调用步骤和缓存 token 用量。

0 人收藏 0 人点赞
#cost-optimization

更换模型后,成本降低了 59%,速度提升了 75%。但我还是不会把它上线。

Reddit r/AI_Agents ↗ · 2026-11-02

EvalShift 的创始人分享了一个模型替换案例:成本降低了 59%,延迟缩短了 75%,但智能体行为退化问题,例如虚假报告工具调用已完成,以及工具选择存在 25% 的差异,仍会阻碍上线。他认为,仅凭成本和延迟指标无法确认迁移是否达标。

0 人收藏 0 人点赞
#cost-optimization

别再数词元,开始数交付成果

MIT Technology Review ↗ · 2026-11-02 缓存

《麻省理工科技评论》认为,团队应以每个已合并拉取请求的成本,而非每个词元的支出,来衡量 AI 开发成本,并建议采用模型路由和自有的开放权重模型算力,以遏制智能体编程不断攀升的成本。

0 人收藏 0 人点赞
#cost-optimization

@OpenHandsDev:最便宜的大语言模型并不总是完成任务的最便宜方式。新分析揭示了在会话中途切换模型会如何……

X AI KOLs Following ↗ · 2026-10-27 缓存

新分析指出,最便宜的 LLM 并不总是完成任务的最便宜方式:在会话中途切换模型可能因丢失上下文缓存而抵消成本节省,智能路由应优化整个工作流而非仅看模型价格。

0 人收藏 0 人点赞
#cost-optimization

Propasafe-Hybrid:一种基于文本的混合式宣传检测工具

arXiv cs.CL ↗ · 2026-10-27 缓存

Propasafe-Hybrid 是一个句子级的混合式宣传检测系统,将微调的 Transformer 分类器与大语言模型(LLM)宣传技术分类相结合,并通过成本感知的预过滤阶段减少词元消耗,同时提供可解释的标注和理由。

0 人收藏 0 人点赞
#cost-optimization

别再为早已解决的问题浪费算力:我的 12 年前办公老 PC 如何零成本搞定邮件、OCR 与语音合成

Reddit r/openclaw ↗ · 2026-10-23

作者分享如何用一台12年前的办公PC运行本地脚本(IMAP邮件轮询、Tesseract OCR、Piper TTS),把Telegram机器人例行任务从昂贵的LLM API调用转为零token的本地处理,显著降低成本。

0 人收藏 0 人点赞
#cost-optimization

AI 的隐性存储账单:推理留下了什么

MIT Technology Review ↗ · 2026-10-22 缓存

《麻省理工科技评论》探讨了 AI 推理中被忽视的数据存储成本,指出一段仅 8 秒的 AI 生成视频就可能留下 500MB 的后端数据(是用户可见文件大小的 130 倍),并援引 IDC 和麦肯锡的预测称,到 2030 年,推理需求将以 35% 的复合年增长率增长。

0 人收藏 0 人点赞
#cost-optimization

对于研究型智能体,你们是让深度研究 API 跑完整个流程,还是基于搜索 + 提取自行搭建?

Reddit r/AI_Agents ↗ · 2026-10-21

作者探讨构建研究型 AI 智能体时的两种架构选择:直接调用一体化深度研究 API(Gemini Deep Research、OpenAI、Tavily Research 等),或基于搜索/抓取原语(Firecrawl、Exa、Tavily)自建规划与合成循环,并就质量、可观测性、扩展性与成本估算向生产环境实践者提问。

0 人收藏 0 人点赞
#cost-optimization

我导出了 10 小时的 Grok Bot 使用数据 CSV:89% 的消耗来自后台子任务,5 条规则可将其削减约 25-30%

Reddit r/AI_Agents ↗ · 2026-10-21

作者导出10小时Grok Bot使用数据发现89%消耗来自后台子任务、96%输入token用于重读旧上下文,并总结出5条规则,预计可节省25-30%的用量。

0 人收藏 0 人点赞
#cost-optimization

OpenAI 将于 1 月 14 日停用 GPT-4o 和 GPT-4.1。我们事先逐项测试了价格更低的 Luna 模型,结果有好有坏。

Reddit r/AI_Agents ↗ · 2026-10-21

BotsCrew 公布了 GPT-5.6 Luna 与 GPT-5.2 的基准测试对比结果。此次测试在 OpenAI 于 1 月 14 日停用 GPT-4o 和 GPT-4.1 之前进行,结果发现,价格更低的 Luna 模型在成本方面占优,但在大量使用工具的长对话和安全防护方面表现较差。

0 人收藏 0 人点赞
#cost-optimization

在智能体评估中融合多个团队优先级

Reddit r/AI_Agents ↗ · 2026-10-20

作者分享了一篇 Towards Data Science 文章,介绍如何将成本、质量和延迟整合为单一的凸函数评分,用于评估 AI 智能体——把业务约束转化为数学公式,从而指导智能体优化,而非依赖临时性的提示词调优。

0 人收藏 0 人点赞
#cost-optimization

给3个研究智能体加了共享记忆以降成本,结果一分没省!!

Reddit r/AI_Agents ↗ · 2026-10-20

一位实践者对三个并行研究智能体进行了成本基准测试,它们共享页面摘要记忆并使用前缀缓存,结果发现几乎没有节省(1.11美元 vs 1.09美元),因为并发启动导致记忆召回为空、前缀缓存未命中,且摘要增加了输出 token 的开销。

0 人收藏 0 人点赞
#cost-optimization

MiniMax M3.1 Flash

Product Hunt ↗ · 2026-10-19

MiniMax 发布 M3.1 Flash 模型,速度提升 3 倍、成本降低 70%,专为智能体(agents)场景优化。

0 人收藏 0 人点赞
#cost-optimization

@rohanpaul_ai:猎捕安全漏洞的 AI 代理将 60.4% 的 token 花在理解代码与推理如何触发漏洞上……

X AI KOLs Timeline ↗ · 2026-10-19 缓存

研究发现安全漏洞挖掘AI代理60.4%的token用于理解代码与推理触发方式,并提出AVRI工具复用代码关系知识,在Codex和OpenCode上分别降低18.0%和23.7%成本且不损失成功率。

0 人收藏 0 人点赞
#cost-optimization

TokenEconomizer:面向编码智能体的经验驱动型黑盒成本控制方法

arXiv cs.CL ↗ · 2026-10-19 缓存

本文提出 TokenEconomizer,一个经验驱动的外部控制器,通过注入微技能、裁剪无关工具以及中断失败循环来降低编码智能体的 token 成本。在 Claude Code、Codex 和 GitHub Copilot CLI 上,该方法在任务成功率相当的情况下实现了 18.4%–30.9% 的成本节省。

0 人收藏 0 人点赞
#cost-optimization

基于在线偏好学习的机会约束个性化 LLM 路由

arXiv cs.LG ↗ · 2026-10-19 缓存

该论文提出一种基于约束上下文老虎机的个性化 LLM 路由框架,通过 primal-dual GLM-UCB 算法在线学习用户偏好,在最小化推理成本的同时以高概率保证响应质量满意度。

0 人收藏 0 人点赞
#cost-optimization

自建还是购买:决策模型的经济学

Hacker News Top ↗ · 2026-10-18 缓存

一篇博客文章系统分析了决策模型(如 Jev)的经济学,探讨其 choice/score/noul 输出类型、几乎免费的输出 token 成本,以及由此衍生的"决策层级"内存层级类比。

0 人收藏 0 人点赞
#cost-optimization

你的本地与云端成本分界线在哪里?(3 个预设、3 种 API 费率,以及大多数计算器都在猜的缓存 token 差价):)

Reddit r/LocalLLaMA ↗ · 2026-10-17

一个免费的浏览器端 LLM 成本计算器,让你对比本地 GPU 推理(内置 RTX 4070 Ti Super / 5090 预设)与云端 API 定价,指出缓存输入 token 的费率——这是其他计算器经常靠猜的数字——最能决定本地与云端的交叉点落在哪里。

0 人收藏 0 人点赞
#cost-optimization

@heyshrutimishra: 你的应用不需要为每一张图片支付云账单。如果每次上传都调用付费视觉 API,使用成本就会变成一项持续的……

X AI KOLs Timeline ↗ · 2026-10-16 缓存

推文讨论用开源的 MiniCPM-V 4.7 在自有硬件上做图像理解,避免每次上传图片都调用付费视觉 API 产生持续云成本,并介绍如何将其集成到 agent 工作流中。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈