inference-costs

标签

Cards List
#inference-costs

即使人工智能使用量持续上升,前沿人工智能的收入增长仍可能放缓

Reddit r/artificial ↗ · 2天前

作者预测,即使人工智能的总体使用量持续上升,前沿人工智能提供商的收入增长也可能放缓,因为任务的经济性会促使开发者将简单任务交给更便宜的模型处理,而将高端模型留给复杂工作。这篇文章将这一观点视为一种假说,同时也提出了反方论点,例如,新的高价值工作负载可能支撑高端定价。

0 人收藏 0 人点赞
#inference-costs

在H100时薪涨到30美元之前,那都不算AGI(7分钟阅读)

TLDR AI ↗ · 3天前 缓存

Kyle Corbitt 认为,在H100的租赁价格上涨约10倍至每小时约30美元之前,AGI并不会真正到来。他通过一个供需计算器说明,具备AGI能力的智能体在当前每小时3.52美元的价格下,将需要约28倍于现有总量的算力。

0 人收藏 0 人点赞
#inference-costs

2026 年 OpenRouter 上的平均 token 价格几乎减半,但日总支出仍增长了两倍

Reddit r/ArtificialInteligence ↗ · 4天前

Tidelines.ai 的 Token 价格指数显示,2026 年 OpenRouter 上路由的平均 token 价格几乎减半,主要因 DeepSeek V4.1 Flash 等廉价模型占据市场;同时日均 token 用量从约 1 万亿增至 23 万亿,估算日支出达到约 4700 万美元的历史新高。

0 人收藏 0 人点赞
#inference-costs

@rohanpaul_ai:Anthropic 的订阅用户每美元获得的算力可能是其 API 用户的 4 倍以上。这一结论基于……的估算。

X AI KOLs Timeline ↗ · 2026-10-11 缓存

Rohan Paul 强调了 SemiAnalysis 的估计:Anthropic 的推理业务可能享有约 88% 的计算后利润率,订阅用户每美元获得的计算资源超过 API 客户的 4 倍——因为即便在这一综合数字中,那些"重度补贴"的订阅仍保持着约 50% 的计算利润率。

0 人收藏 0 人点赞
#inference-costs

用 800+ 持久化 Agent 驱动一座 AI 城市:并发、上下文缓存与推理成本

Reddit r/LocalLLaMA ↗ · 2026-10-08

开发者分享其 LLM 驱动的人生模拟项目 Slow Vale 的工程实践:中文服已有 800+ 持久化 AI 居民共处一个持续运行的城市,文章详述并发决策、动态动作空间、上下文缓存与推理成本。当前运行时使用托管的 DeepSeek Flash 而非本地推理。

0 人收藏 0 人点赞
#inference-costs

@omooretweets:说实话——我认为个人助手的销售成本如此之高,是因为绝大多数早期用户来自科技行业,而他们……

X AI KOLs Timeline ↗ · 2026-10-02 缓存

Omar Moore 认为,个人 AI 助手的高销售成本(每位用户每年 $3,000-$7,000)源于早期采用者主要是科技从业者,他们用 agent 来编写代码和开发项目。他预测,随着模型成本下降,以及真正面向消费者的使用场景成本低得多,这一情况将会改变。

0 人收藏 0 人点赞
#inference-costs

思维价格的骤降

Reddit r/singularity ↗ · 2026-09-22 缓存

本文介绍了关于AI性能成本快速下降的研究,关键基准测试显示季度平均降幅达47%,突显了AI技术的变革性经济趋势。

0 人收藏 0 人点赞
#inference-costs

路由器(网站)

TLDR AI ↗ · 2026-08-20 缓存

Ramp公司推出的Router工具可通过将请求路由至满足性能需求的最低成本模型,最高降低40%的AI推理成本,并为多模型提供单一接入点。

0 人收藏 0 人点赞
#inference-costs

Canva是罕见的快速增长且盈利的初创公司——然而AI成本将其增长预期削减了三分之一

Reddit r/ArtificialInteligence ↗ · 2026-08-12 缓存

由于提供AI功能的成本意外高昂,Canva将其预期营收增长率削减了三分之一,降至20%,凸显了AI推理成本如何削弱传统SaaS经济模式。Figma也出现了利润率压缩,标志着整个行业面临的更广泛挑战。

0 人收藏 0 人点赞
#inference-costs

注意缓存读取成本

Lobsters Hottest ↗ · 2026-08-10 缓存

一篇博客文章,解释了在代理型工作负载中,缓存读取成本主导了LLM推理开销,随着每轮重新读取上下文,累计成本呈二次方增长,并建议减少工具调用次数以降低成本。

0 人收藏 0 人点赞
#inference-costs

软件的单位经济正在发生变化

Hacker News Top ↗ · 2026-08-05 缓存

分析了AI推理成本如何侵蚀软件传统的高毛利经济模式,迫使创始人在产品质量与单位盈利之间做出选择。

0 人收藏 0 人点赞
#inference-costs

为什么计算成本未来几年可能上涨10倍(8分钟阅读)

TLDR AI ↗ · 2026-07-30 缓存

本文分析了未来几年可能促使AI计算成本上涨10倍的因素,包括实验室收入、利润率和现货价格的上涨,同时指出推理支出的增加可能预示着进展停滞。

0 人收藏 0 人点赞
#inference-costs

为什么你的AI账单上涨了,尽管Token价格在下降(5分钟阅读)

TLDR AI ↗ · 2026-07-21 缓存

Token价格大幅下降,但企业AI账单却在上升,原因是代理和后台推理消耗的Token数量增加,这体现了杰文斯悖论。

0 人收藏 0 人点赞
#inference-costs

谁害怕中国模型?

Reddit r/ArtificialInteligence ↗ · 2026-07-20 缓存

本文分析了像Kimi K3这样的中国开源权重AI模型的影响,认为虽然用户研发是免费的,但推理成本(COGS)仍然很高,挑战了免费AI的概念,并强调了在零边际成本软件时代边际成本的回归。

0 人收藏 0 人点赞
#inference-costs

@levie: 要继续获得大规模智能体采用,最佳方式是持续降低智能成本…

X AI KOLs Following ↗ · 2026-07-13 缓存

Levie认为,降低人工智能(token)成本是扩大智能体大规模采用的关键,并预测未来大多数信息工作将涉及智能体,同时提到开放和封闭模型均在创新。

0 人收藏 0 人点赞
#inference-costs

@rohanpaul_ai: 完全同意。那份著名的斯坦福报告已经发现,GPT-3.5级别的推理成本在不到2年内下降了280倍……

X AI KOLs Timeline ↗ · 2026-07-11 缓存

讨论推理成本(GPT-3.5级别在不到2年内下降280倍)的快速下降如何导致杰文斯悖论,从而驱动对AI的更大需求,并使更便宜的开源模型下的多智能体系统无处不在。

0 人收藏 0 人点赞
#inference-costs

关于Token定价的思考

Hacker News Top ↗ · 2026-07-09 缓存

Benedict Evans分析了当前AI token定价的不稳定性,指出随着基础设施投资激增以及软件开发等使用场景推动需求,存在供给紧张和不确定的未来。他认为基础模型可能会成为低利润的通用商品提供商。

0 人收藏 0 人点赞
#inference-costs

GLM 5.2 与即将到来的人工智能利润率崩塌

Lobsters Hottest ↗ · 2026-07-06 缓存

来自Z.ai的GLM 5.2作为一款强大的开源权重模型,与Opus、GPT等前沿模型竞争,但真正的故事是随着成本降低和竞争加剧,人工智能推理领域即将到来的利润率崩塌。

0 人收藏 0 人点赞
#inference-costs

OpenAI 据报道将 ChatGPT 访客用户的推理成本削减了一半以上(一分钟阅读)

TLDR AI ↗ · 2026-07-01 缓存

OpenAI 据报道将 ChatGPT 访客用户的推理成本削减了一半以上,将 GPU 需求减少到几百个,但尚不清楚这些优化是否适用于完整产品。

0 人收藏 0 人点赞
#inference-costs

当前LLM成本为何不可持续

Hacker News Top ↗ · 2026-06-26 缓存

本文认为,当前高昂的LLM定价不可持续,原因是性能提升递减、开源权重模型兴起、专用AI芯片降低推理成本以及零切换成本,并预测随着竞争加剧,价格将大幅下降。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈