构建了一个注重隐私的笔记终端应用,可使用 llama.cpp 在其上运行本地模型 RAG
摘要
一个注重隐私的笔记终端应用,集成本地模型和 RAG,使用 llama.cpp。
暂无内容
相似文章
我用 node-llama-cpp 和自定义 Agent 循环创建了一个本地优先的 MCP 教程仓库
一个通过逐步在 Node.js 中构建来讲解模型上下文协议 (MCP) 的教程仓库,采用 node-llama-cpp、GGUF 模型和自定义 Agent 循环的本地优先设置。
我制作了一个UI和服务器,用于在本地使用llama.cpp运行Anthropic的新自然语言自编码器
作者构建了一个自定义的llama.cpp服务器和Mikupad UI,以便在本地运行Anthropic的开源自然语言自编码器并实现激活引导。目前正在开发LoRA版本以降低内存需求。
@hasantoxr: Google 打造了 NotebookLM。现在一位开发者构建了一个更好的版本,可以将你的文件变成私有的 AI 研究助手……
Open Notebook 是一个开源、注重隐私的 Google NotebookLM 替代品,可本地运行并支持多种 AI 模型,用于研究辅助。
使用 llama.cpp 在本地运行的自动化 AI 研究员
ml-intern 是一个面向 AI 代理的工具,它与 Hugging Face 的库集成,现在支持通过 llama.cpp 或 ollama 运行本地模型,使得自动化 AI 研究员可以在笔记本电脑上全天候运行。
Built a Tauri v2 desktop chat shell for local LLMs — point it at Ollama / llama.cpp / any OpenAI-compatible endpoint, MIT, ~12 MB binary
Built a Tauri v2 desktop chat shell for local LLMs that can connect to Ollama, llama.cpp, or any OpenAI-compatible endpoint. The project is MIT licensed and produces a ~12 MB binary.