标签
PrismML 的 Bonsai 27B 模型在 Jetson Orin Nano 8GB 上运行,处理速度为 4.31 tokens/s,提示处理速度为 27 t/s,使用 6.2GB 内存和约 25W 功耗。这表明边缘 AI 性能出人意料地可用。