@rauchg: 我们一直将AI Gateway解释为一种~~内容~~令牌分发网络。就像AI模型的CDN。一个绝妙的功能…

X AI KOLs Following 产品
ai-gateway vercel model-routing rewrite-rules cdn token-delivery-network production

摘要

Vercel的AI Gateway现在支持路由规则，允许开发者无需修改代码即可动态重写模型路由（例如，从已弃用的模型如Claude Fable-5切换到Claude Opus-5），确保生产工作负载保持弹性。

我们一直将AI Gateway解释为一种~~内容~~令牌分发网络。就像AI模型的CDN。 CDN的一个绝妙功能是能够在不重新部署的情况下动态地重新路由或拒绝流量。 当Fable突然被弃用时，我们担心依赖它的生产工作负载。即便不考虑Fable，由于GPU资源竞争激烈，模型也经常被弃用。然而，我们的数据显示，仍有旧版本模型在生产中愉快地运行着！ 现在我们通过AI Gateway Rules解决了这个问题。例如：你现在可以即时重写模型“路由”！ 𝚟𝚎𝚛𝚌𝚎𝚕 𝚊𝚒-𝚐𝚊𝚝𝚎𝚠𝚊𝚢 𝚛𝚞𝚕𝚎𝚜 𝚊𝚍𝚍 \ --𝚝𝚢𝚙𝚎 𝚛𝚎𝚠𝚛𝚒𝚝𝚎 \ --𝚜𝚘𝚞𝚛𝚌𝚎 𝚊𝚗𝚝𝚑𝚛𝚘𝚙𝚒𝚌/𝚌𝚕𝚊𝚞𝚍𝚎-𝚏𝚊𝚋𝚕𝚎-𝟻 \ --𝚍𝚎𝚜𝚝𝚒𝚗𝚊𝚝𝚒𝚘𝚗 𝚊𝚗𝚝𝚑𝚛𝚘𝚙𝚒𝚌/𝚌𝚕𝚊𝚞𝚍𝚎-𝚘𝚙𝚞𝚜-𝟻 这增加了AI Gateway为恢复丢失令牌而带来的能力和技术组合。如果你丢失令牌，就会损失收入和客户。 感谢@rtaneja_ @crowprose @shaper——我们从CLI设计迅速发展到生产级能力！
查看原文
查看缓存全文

缓存时间: 2026/07/04 06:42

我们一直将 AI Gateway 解释为 Content Token Delivery Network（令牌分发网络）。类似于 AI 模型的 CDN。

CDN 的一大优势是能够在不重新部署的情况下动态重新路由或拒绝流量。

当 Fable 突然退役时，我们担心依赖它的生产工作负载。即使抛开 Fable 不谈，由于 GPU 容量竞争激烈，模型也经常退役。然而，我们的数据显示，人们仍然有旧模型版本的生产流量在愉快运行！

我们现在通过 AI Gateway Rules 解决了这个问题。例如：你现在可以动态重写模型“路由”！

vercel ai-gateway rules add
–type rewrite
–source anthropic/claude-fable-5
–destination anthropic/claude-opus-5

这增加了 AI Gateway 所能提供的恢复丢失令牌的能力和技术组合。如果你丢弃令牌，就会损失收入和客户。

感谢 @rtaneja_ @crowprose @shaper —— 我们很快从 CLI 设计走向了生产级能力！

Vercel Developers (@vercel_dev)： AI Gateway 现在支持路由规则。通过在 CLI 中设置规则即可迁移到新模型，无需更改应用或代理中的代码。

相似文章

@rauchg：新的 AI Gateway 日志界面令人愉悦

X AI KOLs Following

Guillermo Rauch 重点介绍了 Vercel 新的 AI Gateway 日志界面，该界面让开发者能够深入查看每个请求，并检查成本、token 拆分、持续时间、模型、提供商、区域以及完整的回退路径。

AI模型路由的统一API（3分钟阅读）

TLDR AI

Google Cloud API Gateway 现已在公开预览版中提供模型路由，提供一个无服务器入口层，可接受兼容 OpenAI 的请求，并动态路由到 Gemini、Claude 或 OpenAI 模型。

@rauchg: https://▲.to

X AI KOLs Timeline

Vercel 推出智能体基础设施，具备持久化编排和 AI 模型网关等功能，帮助构建和扩展 AI 智能体，已被 Notion 和 Zapier 等公司使用。

ngrok AI Gateway

Product Hunt

ngrok 推出其 AI Gateway，这是一个统一的私有网关，旨在为多种 AI 模型提供统一访问。