@JiaZhihao: 激动分享 Lithos 为 Kimi K2.7 Code 提供的服务栈,这是一个拥有1万亿参数的前沿编码模型。
摘要
Lithos 宣布其推理引擎服务 Kimi K2.7 Code,在单个8×B200节点上以原生精度实现每个用户每秒超过1000 token,速度比主流提供商快3.4-5.7倍。
查看缓存全文
缓存时间: 2026/07/11 00:19
很高兴分享 Lithos 为 Kimi K2.7 Code(1T 参数前沿编码模型)提供的服务堆栈。
在单个 8×B200 节点上,Lithos 在编码工作负载下,为每位用户提供超过 1,000 令牌/秒的峰值速度,同时保持模型原生精度、完整质量,并且不做任何近似处理。
对于智能体而言,更快的令牌速度减少了每个推理、编码和迭代步骤的延迟。我们相信,超快推理将改变你的智能体体验。
在此试用:http://lithosai.com
LithosAI
来源:https://www.lithosai.com/
每秒 1,000 个令牌
速度是智能体的新差异点。
立即试用 → (https://chat.staging.lithosai.cloud/chat/new)
不使用 Lithos
174–291 令牌/秒
编排工具Claude Code•Codex•你的编排工具
模型Kimi K2.7 Code
推理
主流提供商
使用 Lithos
1,000 令牌/秒3.4–5.7 倍加速
编排工具Claude Code•Codex•你的编排工具
模型Kimi K2.7 Code
推理
Lithos 引擎
Kimi K2.7 Code,1T 参数,在 8×B200 上运行。模型原生精度。零近似。完整模型质量。比主流提供商快 3.4–5.7 倍。
立即试用 → (https://chat.staging.lithosai.cloud/chat/new)
LithosAI (@lithos_ai): 今天我们推出 Lithos 的智能体推理引擎,首发支持 Kimi K2.7 Code,这是一个前沿开源的 1T 参数编码模型。
在单个标准 8×B200 GPU 节点上,编码工作负载下性能峰值达到每位用户超过 1,000 令牌/秒,保持模型原生精度,无需任何
相似文章
@HotAisle:Kimi K2.6 + DFlash:8×MI300X 上 508 tok/s,自回归基线 90 tok/s 提升至 5.6 倍
Kimi K2.6 搭配 DFlash 推理系统在 8×AMD MI300X 上实现 508 tokens/s,相比 90 tokens/s 基线零质量损失地提升 5.6 倍吞吐。
@YRSM_Simon: 这是个大新闻! kimi 2.6 是生成级的模型了,在 LLM 能力溢出的年代,速度要成为竞争的胜负手了,芯片领域又要“板块轮动”了吗
Cerebras is now running Kimi K2.6, a trillion-parameter model, in enterprise trials at ~1,000 tokens/s, the fastest frontier model performance ever measured by Artificial Analysis.
@QuixiAI:@Kimi_Moonshot K2.6 在我的 mi300x 上跑出了 56 tps(单请求),接下来做吞吐测试
Kimi K2.6 在单张 MI300X GPU 上达到 56 token/s,用户计划进一步测试整体吞吐。
@jun_song:正在尝试将 Kimi-K2.6 (1T) 适配到 128GB Mac 上。目标是达到 40tok/s,并尽可能减少质量损失。
一位开发者正在优化 Kimi-K2.6 (1T) 模型,使其能在 128GB Mac 上高效运行,目标速度为 40 tok/s,同时尽可能降低质量损失。
Kimi K2.7 Code 务实胜过炫技
Kimi 发布了 K2.7 Code,这是一款专注于编程的 AI 模型,其基准测试成绩提升,且思考令牌使用量降低 30%。它更强调在长代码循环和智能体工具集成中的实际性能,而非炫目的分数。