标签
LangChain 宣布推出 LangSmith LLM Gateway,这是一个面向 AI 智能体的运行时治理层,可强制执行成本限制、检测 PII,并直接在 LangSmith 内实施策略监控,现处于内测阶段。
一位创始人寻求对其服务进行验证,该服务利用开源工具配置生产级 LLM 网关,以解决企业常见问题,如成本可见性、供应商锁定和个人身份信息(PII)泄露。
LiteLLM 是一个开源 AI 网关,提供统一接口以 OpenAI 格式调用 100 多个 LLM 提供商,可作为 Python SDK 或自托管代理服务器使用,面向企业级部署。