标签
一篇关于在生产环境中部署 agentgateway 的实战指南，介绍这个 Apache-2.0 的 Rust 代理如何为 MCP 服务器、代理和模型提供统一入口，并逐步演示 JWT 鉴权、策略配置与协议版本演进对部署的影响。
作者主张开发者应自建并控制 LLM 代理（proxy），以获得真正的 token 用量、请求日志、缓存命中等可观测性数据，而不是依赖各大模型厂商提供的无用仪表盘。
用户发帖询问 Magpie 的使用体验，Magpie 是一款本地网关工具，可让 Claude Code、Codex 等任何 AI 代理跨厂商调用模型，并在多个订阅与 API 账户间智能路由和分配额度。
一个在 GitHub 上获得 11,502 stars 的免费前沿模型插件被发现其实是客户端而非模型提供方，其免费通道将用户提示词路由到 opencode 的 Zen 网关和 Kilo AI 的公开网关，且可能被上游记录日志用于改进服务。作者指出应用界面不会显示上游提供商名称，提醒用户在安装前了解提示词的实际去向。
开源工具 workbuddy2api-hub 将腾讯 WorkBuddy/CodeBuddy 的原生模型服务反向代理为标准 OpenAI 兼容接口（含 Anthropic Messages），支持多账号调度、设备指纹隔离与 Web 看板，可直接接入 ClaudeCode 等终端 Agent 工具。
开源项目 dot2api 通过 MCP 连接器将 OpenAI Dot 封装为兼容 OpenAI 与 Claude 的 API 端点，无需逆向网页接口或使用账号凭证，可用于自动化工作流与 Agent 委派任务。
Liquid Inference 是一款 LLM 路由器，让多家模型提供商针对每次 prompt 动态竞价，从而为用户提供最低推理成本，兼容 Claude Code、Cursor 等主流 agentic 编码工具，支持数百个开源与闭源模型。
Uber 工程团队详细介绍了其 MCP Gateway 的设计。这是一个集中式微服务平台，统一了数百个团队将现有 HTTP、gRPC 和 TChannel 服务暴露为 AI 智能体可用的 MCP 工具的方式——目前内部已托管 800 多个 MCP 服务器和 5000 多个工具。
Vercel AI Gateway的CEO @rauchg 表示，大多数token聚合器充斥着噪音，包括那些要求你把数据用于训练的token促销，以及声称支持ZDR（零数据保留）但信誉存疑的提供商；而Vercel AI Gateway凭借真实客户用量、40万+付费客户规模和零加价，成为理解全球AI token流向的最可信数据源。
FastRouter.ai 在 Product Hunt 上线，作为统一的 AI 网关与控制平面，通过单一 OpenAI 兼容 API 将 LLM 请求路由到 200 多个模型，在成本、延迟、质量和可靠性之间进行优化，并提供故障转移、可观测性和治理能力。
一位开发者构建了一个小型网关，通过处理流式处理、工具调用以及跨模型如Claude和GPT的提供商特定集成挑战，来简化多模型智能体工作流。
LiteLLM 支持通过单一连接使用超过100个AI模型，兼容 OpenAI 和 Anthropic 等主要提供商，并提供开源和自托管选项。
GoModel 是一个用Go编写的开源AI网关，为多个提供商提供单一的OpenAI兼容API，具备预算控制、缓存、护栏和负载均衡等功能，是OpenRouter和LiteLLM的自托管替代方案。
FreeLLMAPI 是一个GitHub工具，它将34个AI服务提供商的免费配额聚合到一个兼容OpenAI的API中，具有智能路由、自动故障转移和配额管理功能，专为开发者设计。
本文提供了一个教程，指导如何通过在第三方网站上注册、生成API密钥，并使用该密钥和基础URL配置Claude的开发者模式，来免费获取Claude Opus 5的访问权限。
Google Cloud API Gateway 现已在公开预览版中提供模型路由，提供一个无服务器入口层，可接受兼容 OpenAI 的请求，并动态路由到 Gemini、Claude 或 OpenAI 模型。
Google Cloud API Gateway 宣布模型路由公开预览，让开发者通过使用 OpenAPI 规范的单一端点访问 Gemini、Claude 和 OSS 模型。
TokenShield，一个开源的FastAPI网关代理，现在使用每回合滑动窗口哈希来防止CrewAI中的代理重试循环，从而减少令牌浪费和成本。
本文介绍了通过构建智能缓存网关（Hawiyat Composer）如何利用精确匹配缓存、语义缓存、模型路由和本地路由消除重复的token浪费，从而节省大量AI API成本。