llama server 的默认端口从 8080 改为 9931

Reddit r/LocalLLaMA 新闻

摘要

llama.cpp 的 llama server 从 v0.7.0 起默认端口由 8080 改为 9931,未显式设置端口的用户在升级时会遇到破坏性变更。

参考:release、PR 从 v0.7.0 开始,llama server 的默认端口现在是 9931(ggml)。未显式设置端口的用户,升级时请注意此破坏性变更。如果所使用的工具框架将 8080 端口写死了,祝好运。
查看原文

相似文章

llama.cpp 发生了什么

Reddit r/LocalLLaMA

llama.cpp 的一次重大更新要求重新生成所有之前生成的 GGUF 文件,这表明模型格式发生了重大的不兼容变化。

Llama.cpp 0.2.0 版本发布!

Reddit r/LocalLLaMA

Llama.cpp 是一个流行的开源工具,用于运行 LLaMA 模型,现已发布 0.2.0 版本,包含更新日志和预构建二进制文件,可在 GitHub 上获取。