Harbor
摘要
Harbor是一个CLI和配套工具，用于快速搭建完整的本地LLM堆栈。
<p>
CLI + 配套工具，用于快速搭建完整的本地LLM堆栈
</p>
<p>
<a href="https://www.producthunt.com/products/habor?utm_campaign=producthunt-atom-posts-feed&utm_medium=rss-feed&utm_source=producthunt-atom-posts-feed">讨论</a>
|
<a href="https://www.producthunt.com/r/p/1156503?app_id=339">链接</a>
</p>
相似文章
Harbor v0.4.19 — 使用 vllm/sglang/llama.cpp 启动 codex/claude/pi/opencode
Harbor v0.4.19 新增了通过本地推理后端启动本地智能编码工具的功能，集成了 vllm、sglang 和 llama.cpp，并内置了用于工具注入（如网络搜索）的 LLM 网关。
WebHarbor - 我们将真实网站“对接”到本地，供网页代理使用！[R]
WebHarbor 将 15 个真实网站（Amazon、GitHub、BBC 等）打包为自包含的 Flask+SQLite 应用，置于单个 Docker 镜像中，支持亚秒级重置，专为可重复的网页智能体评估与训练而设计。该项目邀请社区贡献，以扩展到 100 多个网站，并提供合著机会。
Show HN: Bash4LLM+ – 一个轻量级、无依赖的 Bash 封装器，用于 LLM API
Bash4LLM+ 是一个轻量级、无依赖的 Bash 封装器，用于 LLM API，提供与 Groq 及其他提供者的安全、可审计交互，具有动态模型列表、流式输出和可扩展附加功能等特点。
用一条命令在 HF Jobs 上运行 vLLM 服务器
Hugging Face Jobs 现在允许你使用 vLLM 通过一条命令快速启动一个私有的、兼容 OpenAI 的 LLM 端点，无需配置服务器或 Kubernetes。
ModelHub
ModelHub 是一款在 Mac 菜单栏上运行本地大语言模型的应用。