标签
用户推荐使用 OmniRouter 作为模型中心化代理,可接入多种模型来源,部署在 VPS 上并借助 hermes 简化维护。
一条分享智能体项目结构化安装顺序的推文:使用 direnv 配合密码管理器保障凭证安全,使用 litellm 或 portkey 作为模型代理管理成本和回退,使用 uv + git 在评估通过时提交以确保可复现性,使用 mitmproxy 实现 LLM 调用的全面可观测性。重点介绍了常见故障模式和安全漏洞。