npu-emulation

Tag

Cards List
#npu-emulation

An LLM inside an LLM - Same guy who put a RISK-V CPU inside Qwen has now made Karpathy's stories260k run on an NPU compiled inside Qwen 3.5-4B's weights

Reddit r/LocalLLaMA ↗ · 2026-10-31

开发者将 Karpathy 的 stories260k 模型编译成一个 NPU,并直接嵌入 Qwen 3.5-4B 的权重中,实现了一个 LLM 在另一个 LLM 内部逐位精确地运行(包含矩阵乘、softmax 和注意力),无需外部工具。

0 favorites 0 likes
← Back to home

Submit Feedback