Meta 发布新的设备端优化开源模型
摘要
Meta 宣布推出一个针对设备端部署优化的全新开源模型,旨在将高效的 AI 推理带到边缘设备。
暂无内容
相似文章
Meta推出新开放模型,再次尝试重启其举步维艰的AI战略
Meta正凭借新的开放模型提出其AI战略的重启,主张个性化、去中心化的AI,而非单一的超级智能。该公司落后于OpenAI和Anthropic,将自己定位为阿里巴巴和DeepSeek等中国开放模型实验室的美国替代方案。
Meta的新开放权重模型瞄准本地智能体AI
Meta宣布推出面向本地智能体AI的新开放权重模型,马克·扎克伯格分享了他关于Meta AI理念的文章。
Meta 已确认未来将发布开源模型
Meta 确认了未来发布开源 AI 模型的计划,表明其对开源 AI 开发的持续投入。
@cpaik: 开源设备端多模型推理
一款用于在本地设备上运行多个AI模型推理的开源工具,可提升设备端AI部署效率。
Edge0/Edge0-35B-A3B-preview
Edge0-35B-A3B-preview 是一个稀疏的MoE模型,通过流式专家卸载和量化技术,实现移动设备上的高效AI推理,以低于3 GiB的内存达到15 tok/s的性能。