npu-emulation

标签

Cards List
#npu-emulation

大语言模型里的大语言模型——那个把 RISK-V CPU 塞进 Qwen 的家伙,如今又让 Karpathy 的 stories260k 在一个编译进 Qwen 3.5-4B 权重中的 NPU 上运行起来了

Reddit r/LocalLLaMA ↗ · 2026-10-31

开发者将 Karpathy 的 stories260k 模型编译成一个 NPU,并直接嵌入 Qwen 3.5-4B 的权重中,实现了一个 LLM 在另一个 LLM 内部逐位精确地运行(包含矩阵乘、softmax 和注意力),无需外部工具。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈