标签
一个个人项目展示了 PULSAR-ASM:一个完全用扁平 x86-64 汇编(FASM)编写的极简 LLM 推理引擎,以 FP16 运行 Gemma-2B,二进制体积仅 5.2 KB,零 C/C++ 运行时依赖,在较旧的四核 CPU 上可达约 4.5-4.7 token/s——旨在作为面向裸机与微控制器 LLM 推理的第一性原理探索。