@svpino:Redis 正在降低 AI 应用的运行成本:1. 语义缓存——复用之前生成的答案,只要它们足够相似……

X AI KOLs Following 产品

摘要

Redis 推出了三项降低 AI 应用成本的能力:通过 LangCache 实现语义缓存、持久化智能体记忆,以及通过 Redis Flex 实现内存到 SSD 的存储分层。该内容由 @svpino 以赞助文章形式发布。

Redis 正在降低 AI 应用的运行成本: 1. **语义缓存**——只要与之前的请求足够相似,就复用之前生成的答案 2. **持久化记忆**——检索相关的对话上下文,而无需在每次提示中携带完整的历史记录 3. **存储分层**——将较少使用的数据从 RAM 移动到 SSD 以下是每项功能的工作原理: **语义缓存——使用 Redis LangCache** • 你的应用向 Redis 发送请求 • Redis 对请求进行向量化嵌入 • 然后将其与之前嵌入的请求进行比较 • 如果找到匹配项,就返回存储的答案 • 如果没有匹配项,Redis 则调用 LLM **持久化记忆——使用 Redis Agent Memory** • 你的应用向 Redis 发送请求 • Redis 在后台提取对话中的关键信息 • 它将这些信息进行向量化嵌入,并作为长期记忆存储 • 你的应用现在可以搜索这些记忆,获取相关上下文 **存储分层——使用 Redis Flex** • Redis 将频繁访问的数据保留在 RAM 中 • 自动将较少使用的数据移动到 SSD • 当你的应用请求数据时,Redis 会将其加载回 RAM • Redis 会根据访问模式的变化自动调整数据的存储位置 • 你的应用继续使用相同的 Redis API 总的来说,你的应用将减少对模型的重复调用,使用更小的提示词,并且用更少的 RAM 就能完成同样的工作。 更多信息请参阅:https://fandf.co/4zpiX37 感谢 @Redisinc 团队与我合作发布这篇文章。
查看原文
查看缓存全文

缓存时间: 2026/10/21 16:31

Redis 正在降低 AI 应用的运行成本:

  1. 语义缓存 — 只要新请求与之前生成的回答足够相似,就直接复用

  2. 持久记忆 — 检索相关的对话上下文,而无需在每次 prompt 中传入完整历史记录

  3. 存储分层 — 将使用频率较低的数据从 RAM 迁移到 SSD

以下是每种方式的工作原理:

语义缓存 - 使用 Redis LangCache

  • 你的应用向 Redis 发送请求
  • Redis 对请求进行向量化(embedding)
  • 然后与之前已向量化的请求进行比较
  • 如果找到匹配项,直接返回存储的答案
  • 如果没有匹配项,Redis 则调用 LLM 生成回答

持久记忆 - 使用 Redis Agent Memory

  • 你的应用向 Redis 发送请求
  • Redis 在后台自动提取对话中的关键事实
  • 对这些事实进行向量化并存储为长期记忆
  • 你的应用可以随时从记忆中检索相关的上下文

存储分层 - 使用 Redis Flex

  • Redis 将频繁访问的数据保留在 RAM 中
  • 自动将使用频率较低的数据迁移到 SSD
  • 当你的应用请求数据时,Redis 将其加载回 RAM
  • 随着访问模式的变化,Redis 自动调整数据的存储位置
  • 你的应用始终使用相同的 Redis API

简单来说,你的应用将以更少的重复调用、更短的 prompt 和更少的 RAM 开销完成同样的任务。

更多详情请参考:https://fandf.co/4zpiX37

感谢 @Redisinc 团队与我合作发布本篇内容。


AI 成本优化 | Redis

来源: https://redis.io/solutions/ai-cost-optimization/?utm_source=influencer&utm_medium=paid-post&utm_campaign=2026-10-ai_in_production-influencer&utm_content=s-valdarrama-x 平台 (https://redis.io/solutions/ai-cost-optimization/?utm_source=influencer&utm_medium=paid-post&utm_campaign=2026-10-ai_in_production-influencer&utm_content=s-valdarrama-x#)部署 (https://redis.io/solutions/ai-cost-optimization/?utm_source=influencer&utm_medium=paid-post&utm_campaign=2026-10-ai_in_production-influencer&utm_content=s-valdarrama-x#)工具

  • Redis Insight用于可视化、查询和调试的 UI (https://redis.io/insight/)
  • RIOT从任意来源将数据导入 Redis (https://redis.io/docs/latest/integrate/riot/)
  • 客户端库Python、Node、Java、Go、.Net 及更多 (https://redis.io/docs/latest/develop/clients/)
  • SDK将 Redis 连接到你的应用 (https://redis.io/docs/latest/integrate/)

解决方案 (https://redis.io/solutions/ai-cost-optimization/?utm_source=influencer&utm_medium=paid-post&utm_campaign=2026-10-ai_in_production-influencer&utm_content=s-valdarrama-x#)AI 与 ML 应用

  • 扩展 Agent 与 Agentic 系统成功所需的一切 (https://redis.io/docs/latest/develop/ai/)
  • RAG了解 Redis 如何赋能 RAG (https://redis.io/docs/latest/develop/get-started/rag/)
  • 语义搜索正确的答案,即时获取 (https://redis.io/query-engine/)
  • ML快速利用你的特征数据 (https://redis.io/docs/latest/develop/ai/featureform/)
  • Token 优化享受 AI 的全部能力,而不承担全部成本 (https://redis.io/langcache/)
  • AI 成本优化在不妥协的前提下控制 AI 成本 (https://redis.io/solutions/ai-cost-optimization/)

核心工作负载

  • 欺诈检测阻止欺诈,保护客户 (https://redis.io/blog/a-complete-guide-to-ai-fraud-detection/)
  • 实时决策实时基于数据行动 (https://redis.io/solutions/real-time-decisioning/)
  • 缓存与性能我们的看家本领 (https://redis.io/solutions/caching/)
  • 实时消息以思维的速度传输数据流 (https://redis.io/solutions/messaging/)
  • 会话管理全平台一致的用户体验 (https://redis.io/solutions/session-store/)
  • 排行榜随时掌握领先动态 (https://redis.io/solutions/leaderboards/)

开发者 (https://redis.io/solutions/ai-cost-optimization/?utm_source=influencer&utm_medium=paid-post&utm_campaign=2026-10-ai_in_production-influencer&utm_content=s-valdarrama-x#)学习

  • 博客所有内容一网打尽 (https://redis.io/blog/)
  • 资源中心所需的一切,尽在一处 (https://redis.io/resources/)
  • 演示中心一切皆可实操演示 (https://redis.io/demo-center/)
  • 参考架构无需猜测,直接部署 (https://redis.io/resources/architecture-diagrams/)

资源 (https://redis.io/solutions/ai-cost-optimization/?utm_source=influencer&utm_medium=paid-post&utm_campaign=2026-10-ai_in_production-influencer&utm_content=s-valdarrama-x#)Ulta logo

通过其全新的 Redis 驱动在线体验,收入增长了 40%。了解详情 (https://redis.io/customers/ulta-beauty/)

Superlinked logo

每秒通过 Redis 执行 100+ 次向量搜索查询。了解详情 (https://redis.io/customers/superlinked/)

Sony LIV logo

API 响应速度提升 37%,内存占用降低 15%。了解详情 (https://redis.io/customers/sonyliv/)

plivo logo

每月通过 Redis 处理超过十亿次 API 请求。了解详情 (https://redis.io/customers/plivo/)

最新

Agent 记忆工作坊

设计、构建和扩展 Agent 记忆

2026 年 10 月 21 日

相似文章

Redis 与野心的代价

Lobsters Hottest

本文批评了 Redis 最近的战略方向,重点指出了许可变更引发的冲突、功能冗余泛滥,以及其向“AI 上下文引擎”定位的转变。文章分析了宏大的企业目标如何影响了项目的开放性和简洁性。

缓存如何每月帮我们节省数百美元的AI成本

Reddit r/AI_Agents

本文介绍了通过构建智能缓存网关(Hawiyat Composer)如何利用精确匹配缓存、语义缓存、模型路由和本地路由消除重复的token浪费,从而节省大量AI API成本。