llama server 的默认端口从 8080 改为 9931
摘要
llama.cpp 的 llama server 从 v0.7.0 起默认端口由 8080 改为 9931,未显式设置端口的用户在升级时会遇到破坏性变更。
参考:release、PR
从 v0.7.0 开始,llama server 的默认端口现在是 9931(ggml)。未显式设置端口的用户,升级时请注意此破坏性变更。如果所使用的工具框架将 8080 端口写死了,祝好运。
相似文章
Llama.cpp 服务器连续运行约两周后表现失常?
用户报告,在 llama.cpp 服务器上连续运行约两周后,Qwen3.6 模型的能力显著下降,且重启会话无法解决此问题。
llama.cpp 发生了什么
llama.cpp 的一次重大更新要求重新生成所有之前生成的 GGUF 文件,这表明模型格式发生了重大的不兼容变化。
llama : 网站 + 统一的 `llama` 二进制文件 · ggml-org/llama.cpp · 讨论 #23875
Llama.cpp 宣布推出新网站和统一的 'llama' 二进制文件,以简化 LLM 推理,同时还包括 Hugging Face 缓存迁移和多模态支持等更新。
@ggerganov:llama.cpp 的第10000次发布
庆祝 llama.cpp 的第10000次发布,这是一个用于本地运行大型语言模型的工具。
Llama.cpp 0.2.0 版本发布!
Llama.cpp 是一个流行的开源工具,用于运行 LLaMA 模型,现已发布 0.2.0 版本,包含更新日志和预构建二进制文件,可在 GitHub 上获取。