@ggerganov:llama.cpp 现在有了官方网站:https://llama.app 我们的目标是让本地 AI 人人可用,并改善…
摘要
llama.cpp,广受欢迎的本地 AI 推理工具,现在有了官方网站(llama.app),提供跨平台安装程序和更好的用户体验,让本地 AI 更易于使用。
查看缓存全文
缓存时间: 2026/05/31 17:15
llama.cpp 现已拥有官方网站:https://t.co/9akc1jm8jV
我们的目标是让本地 AI 触手可及,而改善用户体验正是其中的关键一环。在新落地页上,你会找到一款单行跨平台安装程序。安装完成后会提供——
llama.app - llama.cpp 的官方主页
来源:https://llama.app/ llama.app (https://llama.app/)GitHub113.8K (https://github.com/ggml-org/llama.cpp)更喜欢用 Brew 或 Winget?包管理器 (https://github.com/ggml-org/llama.cpp/blob/master/docs/install.md)·更想从源码构建?请参考说明 (https://github.com/ggml-org/llama.cpp/blob/master/docs/build.md)
真正运行在你电脑上的 AI。开源、私密、始终本地化。
在你自己机器上运行前沿 AI。无需 API 密钥、无遥测、无限制。把 AI 夺回来。
运行在你电脑上的 AI
搭配本地编码智能体。
执行 llama serve,然后启动 Pi (https://github.com/badlogic/pi-mono)。它会自动发现你的本地模型。无需配置、无需 API 密钥。文件保留在你的机器上,请求永远不会离开它。
为任何硬件优化。
从你的笔记本到服务器集群,llama.cpp 能在你拥有的任何设备上运行。同一个二进制文件、同一个模型、为每款 GPU 和 CPU 精心调优的内核。
运行你的第一个模型
在 Hugging Face (https://huggingface.co/models?apps=llama.cpp) 上发现更多模型
相似文章
@julien_c: Llama.cpp 拥有全新品牌形象及官方网站。立即运行本地模型!此时此刻,开源必须胜利。来自 @…
Llama.cpp 推出了全新品牌形象和官方网站,旨在推广本地运行 AI 模型,并重申开源软件的重要性。
llama : 网站 + 统一的 `llama` 二进制文件 · ggml-org/llama.cpp · 讨论 #23875
Llama.cpp 宣布推出新网站和统一的 'llama' 二进制文件,以简化 LLM 推理,同时还包括 Hugging Face 缓存迁移和多模态支持等更新。
使用 llama.cpp 在本地运行的自动化 AI 研究员
ml-intern 是一个面向 AI 代理的工具,它与 Hugging Face 的库集成,现在支持通过 llama.cpp 或 ollama 运行本地模型,使得自动化 AI 研究员可以在笔记本电脑上全天候运行。
GGML 和 llama.cpp 加入 Hugging Face,保障本地 AI 长期发展
GGML 和 llama.cpp 已加入 Hugging Face,以确保本地 AI 开发的长期可持续性。Georgi Gerganov 的团队将保持对项目的完全自主权,同时获得资源来扩大社区支持并改进 llama.cpp 推理与 transformers 模型定义之间的集成。
@TheAhmadOsman: 想替代 Anthropic/OpenAI?从这里开始——本地运行 LLM 的圣经现已开放在线阅读……
一份涵盖多种硬件和软件配置的 LLM 本地运行全面指南现已免费在线阅读,涉及 llama.cpp、vLLM 等工具。