这是一个llama.cpp CLI命令构建器。
摘要
一个用于llama.cpp的静态Linux命令构建器,帮助构建CLI命令、运行基准测试并记录结果。
无需账户或注册。无需邮箱要求。无弹窗、无Cookie。无广告。信息保存在浏览器本地,不会丢失进度。它包含了文档中能找到的所有标志和参数。每个字段都添加了工具提示。所有字段均可编辑。构建CLI或服务命令后,可以添加运行信息,将运行记录添加到日志中,并追踪哪种配置最适合您的硬件。目前仅支持Linux。未来可能添加Mac和Windows选项卡。
查看缓存全文
缓存时间: 2026/06/09 08:42
# Llama Command Bench
来源:https://llamabuilding.com/
无需账户,无需 Cookie,无追踪。
## 构建命令。运行基准测试。打印日志。
一个静态的(目前仅限 Linux)llama.cpp 命令构建器。留空字段会被忽略,原始标志追加原样,浏览器存储仅保留上次构建状态和基准测试日志。
服务器 CLI
## 生成的命令
llama-server
多行
## 主要控件
常规服务器和 CLI 运行中最常用的标志。其他所有内容都藏在“高级”中,让它们在那里反思自己做了什么。
高级 GPU 拆分、缓存细节、长上下文、采样、服务器端点、推测解码、MTP、适配器、日志以及原始标志
## 基准测试日志
粘贴 llama.cpp 的时间输出、记录命令,然后比较实际运行结果,而不是仰慕虚假的估算。
时间输出解析器
运行名称
llama.cpp 构建
提示 t/s
生成 t/s
提示 Token
生成 Token
总计毫秒
备注
日期 名称 模式 提示 t/s 生成 t/s Token 构建 操作
相似文章
llama.cpp server 现已内置原生工具(exec_shell、edit_file 等)
llama.cpp server 现通过实验性标志内置了原生工具,支持文件操作、shell 命令等功能,无需外部包装器。
为llama.cpp制作了一个简单的模板管理器与图形界面,这样我就不用一直记住命令行参数了。
Hexllama 是一款免费、开源的桌面图形界面和模板管理器,专为 llama.cpp 设计,简化了命令行参数管理、版本更新以及 HF 模型下载,支持多模型运行。
我制作了一款用于在 WSL/Ubuntu 中管理 llama.cpp 的 Windows 应用
llama.cpp Console 是一款 Windows 桌面应用,提供图形界面来管理 WSL/Ubuntu 中的 llama.cpp,涵盖安装、构建、模型下载和服务部署。
llama.cpp 就是 LLM 界的 Linux
文章把 llama.cpp 比作 Linux,认为这款开源库已成为运行大语言模型的基础底座。
LlamaStation v0.9——面向Windows的llama.cpp图形界面,支持多后端、TurboQuant、MTP等
LlamaStation v0.9 是 llama.cpp 的 Windows 图形界面,提供简洁的界面和完整的参数控制,支持多个后端(官方、TurboQuant、AtomicChat、BeeLlama),实时显存监控、模型专属配置文件、语音模式和无头模式,所有这些都不需要像 Ollama 这样的中间层。