prompt-caching

标签

Cards List
#prompt-caching

Tokenomics:Claude缓存的62.5分钟法则(8分钟阅读)

TLDR AI · 2026-05-18 缓存

对Anthropic为Claude提供的提示缓存的成本分析得出62.5分钟的盈亏平衡规则:如果你预计在62.5分钟内再次需要缓存,请刷新它,否则让它过期以节省成本。

0 人收藏 0 人点赞
#prompt-caching

@0xMovez:Anthropic产品负责人刚刚发布了一堂28分钟的大师课,讲解如何将智能体投入实际生产应用……

X AI KOLs Timeline · 2026-05-13

Anthropic产品负责人发布了一堂免费的28分钟大师课,讲解了如何将AI智能体投入生产,内容包括提示缓存、工具搜索、程序化工具调用、压缩和顾问策略。

0 人收藏 0 人点赞
#prompt-caching

@gneubig: "AI Agent成本背后的数学原理" Vasco Schiavo在@OpenHandsDev撰写的清晰教程,解释了为什么agent可能很昂贵

X AI KOLs Following · 2026-05-13 缓存

Vasco Schiavo撰写的一篇教程,解释了AI Agent成本背后的数学原理,重点讨论了为什么agent可能很昂贵以及提示缓存的重要性。

0 人收藏 0 人点赞
#prompt-caching

提示缓存,但用于 RL 训练——在长提示/短回复负载上实现 7.5 倍加速

Reddit r/LocalLLaMA · 2026-05-11

一种面向开源 RL 训练引擎的全新优化技术在训练过程中引入了提示缓存,通过减少冗余计算,在长提示、短回复负载场景下实现了高达 7.5 倍的加速。

0 人收藏 0 人点赞
#prompt-caching

Anthropic 表示 OpenClaw 风格的 Claude CLI 使用方式再次获准

Hacker News Top · 2026-04-21 缓存

# Anthropic - OpenClaw 来源:[https://docs.openclaw.ai/providers/anthropic](https://docs.openclaw.ai/providers/anthropic) ## Anthropic (Claude) Anthropic 开发了 **Claude** 模型系列,并通过 API 和 Claude CLI 提供访问。在 OpenClaw 中,Anthropic API 密钥和 Claude CLI 重用都被支持。如果已配置,现有遗留的 Anthropic token 配置文件在运行时仍会被识别。 ## 选项 A:Anthropic API 密钥 **最佳适用场景:** 标准 API 访问和按用量计

0 人收藏 0 人点赞
#prompt-caching

API 中的提示词缓存

OpenAI Blog · 2024-10-01 缓存

OpenAI 推出提示词缓存功能,这是一项自动特性,通过在 GPT-4o、GPT-4o mini、o1-preview 和 o1-mini 模型上重用最近缓存的输入令牌,可将 API 成本降低 50% 并改善延迟。该功能会自动应用于超过 1,024 个令牌的提示词,无需开发者进行集成更改。

0 人收藏 0 人点赞
#prompt-caching

解释提示缓存如何在大型语言模型(LLM)中工作,以Claude为案例,详细说明Transformer的KV缓存机制以及在代理工作流中缓存静态前缀的成本效益。

X AI KOLs · 2026-06-23 缓存

解释提示缓存如何在大型语言模型(LLM)中工作,以Claude为案例,详细说明Transformer的KV缓存机制以及在代理工作流中缓存静态前缀的成本效益。

1 人收藏 1 人点赞
← Previous
← 返回首页

提交意见反馈