llama.cpp 里程碑

Reddit r/LocalLLaMA 工具

摘要

llama.cpp 发布里程碑版本,该开源库可在消费级硬件上本地运行大型语言模型,本次更新提升了性能或增加了新功能。

暂无内容
查看原文

相似文章

llama.cpp

Hacker News Top

本文介绍了 llama.cpp 的官方主页,这是一个开源的本地 LLM 推理引擎,重点介绍了通过 pi-llama 插件与 Pi 编码代理的集成以及广泛的硬件优化。

Llama.cpp 0.2.0 版本发布!

Reddit r/LocalLLaMA

Llama.cpp 是一个流行的开源工具,用于运行 LLaMA 模型,现已发布 0.2.0 版本,包含更新日志和预构建二进制文件,可在 GitHub 上获取。

Release b11003 · ggml-org/llama.cpp

Reddit r/LocalLLaMA

llama.cpp 发布版本 b11003,这是一个 C/C++ 工具,可在各种硬件上以最少的设置实现高效的大语言模型推理。