标签
Martian 宣布推出 Ship,这是一个 API 端点,承诺通过智能路由将 Opus 和 GPT 等前沿模型的成本降低 50%,同时保证相同的功能和行为。
OmniRoute is a free, open-source AI gateway that unifies access to 268+ providers and 500+ models through a single local endpoint, featuring smart routing, token compression, and free tier aggregation to reduce costs and complexity for developers.
OmniRoute是一个免费开源AI网关,能够将236个AI提供商的API统一成一个OpenAI兼容接口,支持本地自托管、自动fallback、智能路由和token压缩等功能。
Anthropic的Claude团队展示了一种方法,利用智能路由和技能,以典型每月$4,200 AI编码账单的7%成本实现相同的编码速度。