标签
LiteLLM 是一个开源 AI 网关,提供统一接口以 OpenAI 格式调用 100 多个 LLM 提供商,可作为 Python SDK 或自托管代理服务器使用,面向企业级部署。
FreeLLMAPI将多家LLM提供商的免费层级聚合为一个OpenAI兼容端点,并为开发者提供路由和速率限制处理功能。
OmniRoute 是一个免费、开源的 AI 网关,连接超过 230 个提供商(包括 50 多个免费层级),具备智能路由和令牌压缩功能,可节省成本。它为 Claude Code、Cursor、Copilot 等各种 AI 工具提供统一端点。
andrewyng/aisuite 是一个轻量级的 Python 库,提供了跨多个 LLM 提供商的统一聊天补全 API,以及带有工具的智能体 API。它还包括 OpenCoworker,一个用于日常任务的桌面 AI 智能体。