@Saboo_Shubham_：有人刚刚在单个CPU和8.24 GB内存环境下运行了拥有2.78万亿参数的Kimi k3模型。100%开源。

X AI KOLs Timeline 模型
open-source llm efficiency cpu-inference kimi-k3

摘要

据报道，有人仅用8.24 GB内存就在单个CPU上运行了拥有2.78万亿参数的开源Kimi k3模型，展现了极高的效率。

有人刚刚在单个CPU上仅用8.24 GB内存运行了拥有2.78万亿参数的Kimi k3模型。100%开源。https://t.co/9VCtiNXK9Z
查看原文
查看缓存全文

缓存时间: 2026/08/03 05:34

刚刚有人在单颗CPU、8.24 GB内存下跑起了2.78万亿参数的Kimi k3。100%开源。https://t.co/9VCtiNXK9Z

相似文章

使用29 GB内存以0.50 tok/s运行Kimi K3

Hacker News Top

WASTE是一个新的开源C语言推理引擎，它从磁盘流式加载专家权重，在仅29 GB内存的消费级笔记本电脑上运行拥有2.78万亿参数的Kimi K3模型，实现了0.49–0.54 tokens/s的速度。