@LangChain:在 LangSmith LLM Gateway 中试用 Kimi K3。仅使用你的 LangSmith API 密钥即可运行 Kimi 3 代理。LangSmith 现已提供…
摘要
LangSmith 的 LLM Gateway 现在通过 Gateway Credits 支持 Kimi K3 和其他开放模型,用户只需使用 LangSmith API 密钥即可调用托管模型,无需配置提供方密钥。
查看缓存全文
缓存时间: 2026/08/06 18:40
在 LangSmith LLM Gateway 中试用 Kimi K3,只需使用你的 LangSmith API 密钥,即可使用 Kimi 3 运行智能体。LangSmith 现已提供对开放模型的即开即用访问,由 @FireworksAI_HQ 提供支持。立即开始 → https://docs.langchain.com/langsmith/llm-gateway-credits…
Gateway Credits - LangChain 文档
来源:https://docs.langchain.com/langsmith/llm-gateway-credits
Gateway Credits 允许你通过标准 LLM Gateway API 调用由 LangChain 托管的模型,而无需设置提供商账户或密钥。仅需使用你的 LangSmith API 密钥(https://docs.langchain.com/langsmith/create-account-api-key)即可完成身份验证。无需提供商密钥(https://docs.langchain.com/langsmith/llm-gateway-admin-setup#1-add-provider-secrets)。网关会根据模型 ID 路由每个请求。类似 moonshotai/kimi-k3 的托管模型标识使用 Gateway Credits。以已配置的自带密钥提供商开头的模型 ID(例如 anthropic/claude-opus-5)则使用该提供商的密钥。
可用模型
在请求体中通过 ID 选择托管模型。模型 ID 不区分大小写。
使用标准的模型列表端点,列出你的工作区可用的所有模型,包括已配置的自带密钥提供商和托管模型:
请完全按照返回的模型 ID 在提示请求 model 字段中的显示方式使用该 ID。
前提条件
在使用 Gateway Credits 之前:
- 你的组织使用的是付费套餐(Developer、Plus、Startup 或 Premier(https://docs.langchain.com/langsmith/pricing-plans))。
- 你拥有一个工作区范围的 LangSmith API 密钥(https://docs.langchain.com/langsmith/create-account-api-key),且该密钥关联的角色具有
gateway:invoke和workspaces:read权限(https://docs.langchain.com/langsmith/organization-workspace-operations)。如果不确定,请参阅管理设置(https://docs.langchain.com/langsmith/llm-gateway-admin-setup)。
发起调用
将兼容 OpenAI 的客户端指向 https://gateway.smith.langchain.com/v1,使用你的 LangSmith API 密钥进行身份验证,并将 model 设置为托管模型 ID。
支持的端点
托管模型使用与自带密钥模型相同的标准 API 格式:
有关请求示例和转换行为,请参阅 API 格式(https://docs.langchain.com/langsmith/llm-gateway-api-formats)。
定价
所有付费套餐(Enterprise 除外)均可使用 Gateway Credits。有关套餐详情和当前费率,请参阅定价页面(https://www.langchain.com/pricing)。Gateway Credits 以 LangChain 信用单位(LCUs) 计费,每个 LCU 1.50 美元;每次调用根据 token 使用量消耗 LCUs。标准的网关支出策略(https://docs.langchain.com/langsmith/llm-gateway-spend-policies)适用于托管模型流量,因此你配置的任何组织、工作区、API 密钥或用户上限同样适用于 Gateway Credit 的使用。你可以使用与自带密钥提供商相同的工具来控制 Gateway Credit 的消耗。例如,将某个 API 密钥在所有提供商上的月度上限设为 200 美元,或设置包含托管模型调用的工作区级每日限额。
追踪
与所有网关流量一样,托管模型调用会被追踪到 LangSmith。有关追踪数据的存放位置以及如何控制访问权限,请参阅追踪、引擎和访问控制(https://docs.langchain.com/langsmith/llm-gateway-access)。
后续步骤
- 快速入门(https://docs.langchain.com/langsmith/llm-gateway-quickstart):发起你的第一次网关代理调用。
- API 格式(https://docs.langchain.com/langsmith/llm-gateway-api-formats):通过 Chat Completions、Messages 或 Responses 调用模型。
- 支出策略(https://docs.langchain.com/langsmith/llm-gateway-spend-policies):为 Gateway Credit 使用添加成本限制。
- 直接模型访问(https://docs.langchain.com/langsmith/llm-gateway-direct-model-access):使用提供商原生 API 和模型 ID。
相似文章
@LangChain: 推出 LangSmith LLM Gateway:为你的智能体打造的运行时治理层。强制执行成本限制、检测 PII、违规处理……
LangChain 宣布推出 LangSmith LLM Gateway,这是一个面向 AI 智能体的运行时治理层,可强制执行成本限制、检测 PII,并直接在 LangSmith 内实施策略监控,现处于内测阶段。
@LangChain: 使用LangSmith LLM Gateway实现模型回退 不要让模型故障拖垮你的智能体。定义回退规则…
LangSmith LLM Gateway现已公开测试版,为生产环境中的智能体模型调用提供集中治理——包括支出上限、速率限制、模型回退以及按客户策略,以防故障和成本超支。
@LangChain: 管理LLM支出变得更难,一旦你的团队开始使用多个代理调用多个模型。没有……
本文提供了一个指南,介绍如何使用LangSmith LLM Gateway来设置和执行成本控制,以管理使用多个LLM代理时的开支。
@LangChain:在LangSmith LLM Gateway之前:一个代理处理包含SSN的请求。现在它存在于LLM提供商日志中,在跟踪数据中,…
LangChain宣布,LangSmith LLM Gateway可以在请求到达LLM提供商或日志之前,对类似SSN的敏感数据进行脱敏,从而增强隐私和安全性。
@LangChain: .@CreditGenie_US 已使用 LangSmith 调试了数千条代理追踪。LangSmith 的可追溯性使他们能够看到精确的…
CreditGenie 使用 LangSmith 来调试数千条代理追踪,并从生产数据中生成有针对性的测试问题。