orin-nx

详细介绍了为运行 Hermes Agent 而构建的 Jetson Orin NX 系统及基准测试，使用 Gemma 4 26B 量化模型，在 8K 上下文中达到 14.65 tok/s，在 60K 上下文中达到 10.21 tok/s。