power-efficient

标签

Cards List
#power-efficient

PrismML Bonsai 27B 在 Jetson Orin Nano 8GB 上出人意料地可用

Reddit r/LocalLLaMA · 昨天

PrismML 的 Bonsai 27B 模型在 Jetson Orin Nano 8GB 上运行,处理速度为 4.31 tokens/s,提示处理速度为 27 t/s,使用 6.2GB 内存和约 25W 功耗。这表明边缘 AI 性能出人意料地可用。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈