Meta 发布新的设备端优化开源模型

Reddit r/singularity 模型

摘要

Meta 宣布推出一个针对设备端部署优化的全新开源模型,旨在将高效的 AI 推理带到边缘设备。

暂无内容
查看原文

相似文章

Edge0/Edge0-35B-A3B-preview

Hugging Face Models Trending

Edge0-35B-A3B-preview 是一个稀疏的MoE模型,通过流式专家卸载和量化技术,实现移动设备上的高效AI推理,以低于3 GiB的内存达到15 tok/s的性能。