model-proxy

标签

Cards List
#model-proxy

@9hills: 每个频繁切换模型的人都需要一个模型中心化代理。 让 ChatGPT 分析了几乎所有的开源项目,最后选择了 OmniRouter,部署到自己的 VPS上,几乎可以接入所有的来源(包括我司自己的) 现在部署服务也简单多了,只需要让 herme…

X AI KOLs Timeline · 6天前 缓存

用户推荐使用 OmniRouter 作为模型中心化代理,可接入多种模型来源,部署在 VPS 上并借助 hermes 简化维护。

0 人收藏 0 人点赞
#model-proxy

@DeRonin_: 任何使用或学习智能体系统的人都应该读一读这个。我在每个新智能体项目前执行的安装顺序:1.…

X AI KOLs Following · 2026-05-17 缓存

一条分享智能体项目结构化安装顺序的推文:使用 direnv 配合密码管理器保障凭证安全,使用 litellm 或 portkey 作为模型代理管理成本和回退,使用 uv + git 在评估通过时提交以确保可复现性,使用 mitmproxy 实现 LLM 调用的全面可观测性。重点介绍了常见故障模式和安全漏洞。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈