Kimi K3 现已通过 Telnyx Inference API 提供

Hacker News Top 产品

摘要

Kimi K3 是 Moonshot AI 推出的 2.8 万亿参数的开源模型,支持 100 万 token 上下文和原生视觉能力,现已上线 Telnyx Inference API,适用于编码、推理和多模态等任务。

Moonshot AI 今日发布了 Kimi K3 的开放权重,该模型已在 Telnyx Inference 上运行。其架构及 Moonshot 自有的基准测试结果详见其技术博客。本文主要介绍如何在 Telnyx 上运行该模型。<p>新增内容:K3 现已通过 Telnyx Inference API 提供,运行在我们自有且自营的 GPU 上。</p><p>这一点之所以重要,是因为该模型的规模。一个 2.8T 的模型需要专用基础设施才能良好运行。由于我们拥有并运营 GPU,因此可以控制吞吐量。没有跨提供商的跳转,也没有云租户,延迟得以最小化。 我们在美国、欧洲、亚太和 MENA 地区均部署了 GPU。推理将在您选择的区域运行,且不保留任何数据。响应返回后,我们不会存储提示或补全内容。 由于我们拥有基础设施,每 token 的价格反映的是运行模型的成本,而不是租用他人基础设施的成本加上其利润。</p><p>我们尚未对 K3 进行基准测试。Moonshot 自身的数据以及早期第三方评估显示,该模型在编码和智能体工作方面已达到前沿水平,总体仅落后于 Claude Fable 5 和 GPT 5.6 Sol。详细分析请参阅他们的博客。</p><p>Telnyx 定价:输入 token 每 100 万个 $2.70,输出 token 每 100 万个 $13.50,缓存输入 token 每 100 万个 $0.27。默认启用提示缓存。通过兼容 OpenAI 的端点提供服务,便于测试。</p>模型 ID:[MODEL_ID] API:<a href=\"https://api.telnyx.com/v2/ai/chat/completions\" rel=\"nofollow\">https://api.telnyx.com/v2/ai/chat/completions</a> 文档:<a href=\"https://developers.telnyx.com/docs/inference\" rel=\"nofollow\">https://developers.telnyx.com/docs/inference</a> 技术博客(Moonshot):<a href=\"https://www.kimi.com/blog/kimi-k3\" rel=\"nofollow\">https://www.kimi.com/blog/kimi-k3</a>
查看原文
查看缓存全文

缓存时间: 2026/07/28 06:29

Kimi K3 现已登陆 Telnyx Inference | Telnyx

来源:https://telnyx.com/release-notes/kimi-k3-telnyx-inference

2026年7月28日

Kimi K3,Moonshot AI 旗下拥有 2.8 万亿参数的旗舰模型,现已可通过 Telnyx Inference API(https://telnyx.com/products/inference)使用。它是全球首个开源且参数规模达到 3 万亿级别的模型,基于 Kimi Delta Attention 与 Attention Residuals 构建,支持 100 万 Token 的上下文窗口,并具备原生视觉能力。

新增内容

  • **新增模型:**Kimi K3(模型 ID:moonshotai/Kimi-K3)现已可在 Telnyx Inference API 中选择,与现有的 Kimi K2.6、GLM-5.2-FP8 及 MiniMax M3 等模型一同使用。
  • **2.8T 参数:**Telnyx Inference 上目前可用的最大开源权重模型。首个达到 3 万亿参数级别的开源模型。
  • **100 万 Token 上下文窗口:**支持代码库分析、长文档处理及多轮智能体会话,具备稳定的长上下文表现。
  • **原生视觉能力:**同一模型可接受文本、图像及视频输入。无需单独的视觉适配器即可进行多模态推理。
  • **可配置推理深度:**三个级别(低、高、最高),可根据每次请求在计算量与推理深度之间进行权衡。
  • **工具调用与结构化输出:**支持函数调用、动态工具加载,以及针对智能体工作流的 JSON Schema 约束输出。
  • **默认提示缓存:**自动对重复的提示前缀进行前缀缓存,适用于多次请求。

为何重要

人工智能的竞争优势正从“谁构建了最智能的模型”转向“谁构建了决定每个请求运行位置的基础设施”。K3 证明,等式中的模型部分正在自行解决。Kimi K3 是首个达到 2.8 万亿参数的开源模型,在编码、推理及智能体知识工作等基准测试中,与 Anthropic 和 OpenAI 的闭源前沿模型不相上下,证明开源已不落后于前沿实验室,在某些领域甚至已经达到同等水平。

K3 现已在 Telnyx 自有 GPU 基础设施上运行,并可通过兼容 OpenAI 的 API 进行访问。

定价

Token 类型每 1M Token 价格缓存输入0.27输入2.70输出$13.50

了解更多,请查阅 Inference 文档(https://developers.telnyx.com/docs/inference)或前往 Mission Control(https://portal.telnyx.com/)试用。

相似文章

Kimi K3 已在网页和App上发布

Reddit r/LocalLLaMA

Kimi K3 是一款全新AI模型,拥有2.8万亿参数和100万上下文长度,已在网页和App上发布,在编程、智能体任务、推理、视觉和智能体集群方面具备领先能力。

Kimi-K3 在 HuggingFace 上发布

Reddit r/artificial

Moonshot AI 发布了 Kimi-K3,这是一个拥有 2.8 万亿参数的混合专家模型,支持 100 万 tokens 的上下文窗口。该模型已在 HuggingFace 上以具有商业限制的宽松许可证提供。

Kimi K3 现已上线

Hacker News Top

Kimi AI 发布了 K3,这是一款专为智能编码和知识工作打造的新模型,现已在其平台上上线。

Kimi K3: 开放前沿智能

Reddit r/LocalLLaMA

Kimi 推出 Kimi K3,一个拥有 2.8 万亿参数的开放模型,具备原生视觉和 100 万上下文能力,基于 Kimi Delta Attention 和 Attention Residuals 构建。它在编码与推理方面达到前沿性能水平,完整权重将于 2026 年 7 月前发布。

Kimi-K3 技术报告 [pdf]

Hacker News Top

MoonshotAI发布了Kimi-K3,一个拥有2.8万亿参数的开源权重多模态智能体模型,具备100万token的上下文窗口,基于全新的Kimi Delta Attention和Attention Residuals架构,实现了显著的扩展性改进。