交互式 Jacobian-Lens 可视化工具和实时引导器，用于 llama.cpp 上的 GGUF 模型

Reddit r/LocalLLaMA 2026/07/12 02:37 工具

interactive-visualizer jacobian-lens live-steerer gguf llama-cpp model-interpretability

摘要

交互式 Jacobian-Lens 可视化工具和实时引导器，适用于在 llama.cpp 上运行的 GGUF 模型，实现实时模型可解释性和控制。

暂无内容

查看原文

相似文章

Hugging Face Models Trending

这是Qwen3.8-27B无审查模型的GGUF转换版本，一个abliterated版本（移除了安全对齐），用于研究目的，运行在llama.cpp上，支持多种量化方案和视觉功能。

Hugging Face Models Trending

此 Hugging Face 模型卡片介绍了 LiquidAI 的 LFM2.5-2.6B 模型（GGUF 量化格式），并提供了通过 llama.cpp、vLLM、Ollama 等工具在本地运行的说明。

Reddit r/LocalLLaMA

unsloth 已将 GLM-5.2 的 GGUF 版本上传至 Hugging Face，为 llama.cpp、vLLM 和 SGLang 等多种推理引擎提供了可直接使用的模型文件。

Reddit r/LocalLLaMA

此拉取请求为 llama.cpp（一个开源 LLM 推理引擎）增加了对 Granite4 Vision 模型的支持。

Reddit r/LocalLLaMA

一位开发者构建了 llmux，这是一个开源工具，用于简化跨不同引擎（如 vLLM 和 llama.cpp）管理模型配置，支持一键切换，并集成了 Docker 和 NVIDIA GPU 支持。