@svpino:Redis 正在降低 AI 应用的运行成本:1. 语义缓存——复用之前生成的答案,只要它们足够相似……
摘要
Redis 推出了三项降低 AI 应用成本的能力:通过 LangCache 实现语义缓存、持久化智能体记忆,以及通过 Redis Flex 实现内存到 SSD 的存储分层。该内容由 @svpino 以赞助文章形式发布。
查看缓存全文
缓存时间: 2026/10/21 16:31
Redis 正在降低 AI 应用的运行成本:
-
语义缓存 — 只要新请求与之前生成的回答足够相似,就直接复用
-
持久记忆 — 检索相关的对话上下文,而无需在每次 prompt 中传入完整历史记录
-
存储分层 — 将使用频率较低的数据从 RAM 迁移到 SSD
以下是每种方式的工作原理:
语义缓存 - 使用 Redis LangCache
- 你的应用向 Redis 发送请求
- Redis 对请求进行向量化(embedding)
- 然后与之前已向量化的请求进行比较
- 如果找到匹配项,直接返回存储的答案
- 如果没有匹配项,Redis 则调用 LLM 生成回答
持久记忆 - 使用 Redis Agent Memory
- 你的应用向 Redis 发送请求
- Redis 在后台自动提取对话中的关键事实
- 对这些事实进行向量化并存储为长期记忆
- 你的应用可以随时从记忆中检索相关的上下文
存储分层 - 使用 Redis Flex
- Redis 将频繁访问的数据保留在 RAM 中
- 自动将使用频率较低的数据迁移到 SSD
- 当你的应用请求数据时,Redis 将其加载回 RAM
- 随着访问模式的变化,Redis 自动调整数据的存储位置
- 你的应用始终使用相同的 Redis API
简单来说,你的应用将以更少的重复调用、更短的 prompt 和更少的 RAM 开销完成同样的任务。
更多详情请参考:https://fandf.co/4zpiX37
感谢 @Redisinc 团队与我合作发布本篇内容。
AI 成本优化 | Redis
来源: https://redis.io/solutions/ai-cost-optimization/?utm_source=influencer&utm_medium=paid-post&utm_campaign=2026-10-ai_in_production-influencer&utm_content=s-valdarrama-x 平台 (https://redis.io/solutions/ai-cost-optimization/?utm_source=influencer&utm_medium=paid-post&utm_campaign=2026-10-ai_in_production-influencer&utm_content=s-valdarrama-x#)部署 (https://redis.io/solutions/ai-cost-optimization/?utm_source=influencer&utm_medium=paid-post&utm_campaign=2026-10-ai_in_production-influencer&utm_content=s-valdarrama-x#)工具
- Redis Insight用于可视化、查询和调试的 UI (https://redis.io/insight/)
- RIOT从任意来源将数据导入 Redis (https://redis.io/docs/latest/integrate/riot/)
- 客户端库Python、Node、Java、Go、.Net 及更多 (https://redis.io/docs/latest/develop/clients/)
- SDK将 Redis 连接到你的应用 (https://redis.io/docs/latest/integrate/)
解决方案 (https://redis.io/solutions/ai-cost-optimization/?utm_source=influencer&utm_medium=paid-post&utm_campaign=2026-10-ai_in_production-influencer&utm_content=s-valdarrama-x#)AI 与 ML 应用
- 扩展 Agent 与 Agentic 系统成功所需的一切 (https://redis.io/docs/latest/develop/ai/)
- RAG了解 Redis 如何赋能 RAG (https://redis.io/docs/latest/develop/get-started/rag/)
- 语义搜索正确的答案,即时获取 (https://redis.io/query-engine/)
- ML快速利用你的特征数据 (https://redis.io/docs/latest/develop/ai/featureform/)
- Token 优化享受 AI 的全部能力,而不承担全部成本 (https://redis.io/langcache/)
- AI 成本优化在不妥协的前提下控制 AI 成本 (https://redis.io/solutions/ai-cost-optimization/)
核心工作负载
- 欺诈检测阻止欺诈,保护客户 (https://redis.io/blog/a-complete-guide-to-ai-fraud-detection/)
- 实时决策实时基于数据行动 (https://redis.io/solutions/real-time-decisioning/)
- 缓存与性能我们的看家本领 (https://redis.io/solutions/caching/)
- 实时消息以思维的速度传输数据流 (https://redis.io/solutions/messaging/)
- 会话管理全平台一致的用户体验 (https://redis.io/solutions/session-store/)
- 排行榜随时掌握领先动态 (https://redis.io/solutions/leaderboards/)
开发者 (https://redis.io/solutions/ai-cost-optimization/?utm_source=influencer&utm_medium=paid-post&utm_campaign=2026-10-ai_in_production-influencer&utm_content=s-valdarrama-x#)学习
- 博客所有内容一网打尽 (https://redis.io/blog/)
- 资源中心所需的一切,尽在一处 (https://redis.io/resources/)
- 演示中心一切皆可实操演示 (https://redis.io/demo-center/)
- 参考架构无需猜测,直接部署 (https://redis.io/resources/architecture-diagrams/)
资源 (https://redis.io/solutions/ai-cost-optimization/?utm_source=influencer&utm_medium=paid-post&utm_campaign=2026-10-ai_in_production-influencer&utm_content=s-valdarrama-x#)Ulta logo
通过其全新的 Redis 驱动在线体验,收入增长了 40%。了解详情 (https://redis.io/customers/ulta-beauty/)
Superlinked logo
每秒通过 Redis 执行 100+ 次向量搜索查询。了解详情 (https://redis.io/customers/superlinked/)
Sony LIV logo
API 响应速度提升 37%,内存占用降低 15%。了解详情 (https://redis.io/customers/sonyliv/)
plivo logo
每月通过 Redis 处理超过十亿次 API 请求。了解详情 (https://redis.io/customers/plivo/)
最新
Agent 记忆工作坊
设计、构建和扩展 Agent 记忆
2026 年 10 月 21 日
相似文章
@addyosmani: 将AI投入生产?您的大量token账单都花在重复回答同一问题上 - 而代理消耗约4倍的聊天token。
一条推文推广Redis LangCache作为一种托管语义缓存解决方案,用于AI生产,声称API成本可降低高达90%。
@akshay_pachaar: Redis 构建了一个缓存,将 LLM 成本削减了 70%!生产环境中的 LLM 应用程序经常接收相同问题的不同版本…
Redis LangCache 是一种语义缓存工具,通过存储和重用类似的问题-响应对,将 LLM 成本降低高达 70%,使 AI 应用程序更快、更具成本效益。
Redis 与野心的代价
本文批评了 Redis 最近的战略方向,重点指出了许可变更引发的冲突、功能冗余泛滥,以及其向“AI 上下文引擎”定位的转变。文章分析了宏大的企业目标如何影响了项目的开放性和简洁性。
缓存如何每月帮我们节省数百美元的AI成本
本文介绍了通过构建智能缓存网关(Hawiyat Composer)如何利用精确匹配缓存、语义缓存、模型路由和本地路由消除重复的token浪费,从而节省大量AI API成本。
提示缓存真的能为AI代理节省可观成本吗?
一个实践性讨论,质疑提示缓存是否能为生产环境中的AI代理带来有意义的成本节约,审视了现实因素如缓存命中率、路由策略和规模。