标签
作者在10-20美元的Amlogic A113X CPU芯片上，使用自定义C运行时运行了Qwen3.5-0.8B，实现了1.82 tok/s的解码速度和低于490 MiB的峰值RSS，证明了小型LLM推理可以在没有GPU的已部署边缘硬件上运行。