Llama.cpp 0.2.0 版本发布!

Reddit r/LocalLLaMA 工具

摘要

Llama.cpp 是一个流行的开源工具,用于运行 LLaMA 模型,现已发布 0.2.0 版本,包含更新日志和预构建二进制文件,可在 GitHub 上获取。

您可以在以下位置找到更新日志和源代码:https://github.com/ggml-org/llama.cpp/releases/tag/v0.2.0 关联的预构建版本在此处:https://github.com/ggml-org/llama.cpp/releases/tag/b10566
查看原文

相似文章

Llama.cpp v0.1.0

Hacker News Top

Llama.cpp v0.1.0 是用于高效 LLM 和 VLM 推理的 C/C++ 实现,支持广泛的硬件,配置简单且性能卓越。

llama.cpp 里程碑

Reddit r/LocalLLaMA

llama.cpp 发布里程碑版本,该开源库可在消费级硬件上本地运行大型语言模型,本次更新提升了性能或增加了新功能。

llama.cpp

Hacker News Top

本文介绍了 llama.cpp 的官方主页,这是一个开源的本地 LLM 推理引擎,重点介绍了通过 pi-llama 插件与 Pi 编码代理的集成以及广泛的硬件优化。