m2-max

成功在搭载 64GB 内存的 M2 Max Mac 上本地运行了 75B 参数的 Nemotron Puzzle 模型，展示了在消费级硬件上进行大规模模型推理的能力。