ternary-quant

标签

Cards List
#ternary-quant

@AgentSparko: 我在DGX Spark上测试了PrismML Bonsai 27B,但我觉得在构建llama.cpp时好像搞错了什么,因为速度…

X AI KOLs Timeline · 昨天 缓存

用户测试了PrismML的新Bonsai 27B模型在Nvidia DGX Spark上的表现,报告了基准测试速度以及llama.cpp构建的问题,同时PrismML宣布该模型是首款能在手机上运行的27B级模型。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈