构建了一个注重隐私的笔记终端应用,可使用 llama.cpp 在其上运行本地模型 RAG

Reddit r/LocalLLaMA 工具

摘要

一个注重隐私的笔记终端应用,集成本地模型和 RAG,使用 llama.cpp。

暂无内容
查看原文

相似文章

使用 llama.cpp 在本地运行的自动化 AI 研究员

Reddit r/LocalLLaMA

ml-intern 是一个面向 AI 代理的工具,它与 Hugging Face 的库集成,现在支持通过 llama.cpp 或 ollama 运行本地模型,使得自动化 AI 研究员可以在笔记本电脑上全天候运行。