@unwind_ai_:中国 Kimi K2.6 居然自主在 Mac 上用 Zig 写了个本地推理运行时,比 LM Studio 快 20%

X AI KOLs Timeline 模型

摘要

Kimi K2.6 自主迭代 14 轮、调用工具 4,000+ 次,在 Mac 上用 Zig 写出本地推理运行时,性能比 LM Studio 高 20%,全程无人干预,已开源。

中国 Kimi K2.6 居然自主在 Mac 上用 Zig 写了个本地推理运行时,最终比 LM Studio 快 20%。14 轮迭代、4,000+ 次工具调用,全程无人类介入,耗时 12 小时,现已开源。
查看原文
查看缓存全文

缓存时间: 2026/04/21 09:29

中国 Kimi K2.6 居然在 Mac 上用 Zig 写了一个本地推理运行时,全程无人干预。14 轮迭代、4,000+ 次工具调用、12 小时跑完,最终比 LM Studio 快 20%。而且开源了。

相似文章

使用29 GB内存以0.50 tok/s运行Kimi K3

Hacker News Top

WASTE是一个新的开源C语言推理引擎,它从磁盘流式加载专家权重,在仅29 GB内存的消费级笔记本电脑上运行拥有2.78万亿参数的Kimi K3模型,实现了0.49–0.54 tokens/s的速度。