Llama.cpp 0.2.0 版本发布!
摘要
Llama.cpp 是一个流行的开源工具,用于运行 LLaMA 模型,现已发布 0.2.0 版本,包含更新日志和预构建二进制文件,可在 GitHub 上获取。
您可以在以下位置找到更新日志和源代码:https://github.com/ggml-org/llama.cpp/releases/tag/v0.2.0 关联的预构建版本在此处:https://github.com/ggml-org/llama.cpp/releases/tag/b10566
相似文章
Llama.cpp v0.1.0
Llama.cpp v0.1.0 是用于高效 LLM 和 VLM 推理的 C/C++ 实现,支持广泛的硬件,配置简单且性能卓越。
llama : 网站 + 统一的 `llama` 二进制文件 · ggml-org/llama.cpp · 讨论 #23875
Llama.cpp 宣布推出新网站和统一的 'llama' 二进制文件,以简化 LLM 推理,同时还包括 Hugging Face 缓存迁移和多模态支持等更新。
llama.cpp 里程碑
llama.cpp 发布里程碑版本,该开源库可在消费级硬件上本地运行大型语言模型,本次更新提升了性能或增加了新功能。
llama.cpp
本文介绍了 llama.cpp 的官方主页,这是一个开源的本地 LLM 推理引擎,重点介绍了通过 pi-llama 插件与 Pi 编码代理的集成以及广泛的硬件优化。
@ggerganov:llama.cpp 的第10000次发布
庆祝 llama.cpp 的第10000次发布,这是一个用于本地运行大型语言模型的工具。