private-agent

作者构建了一个完全离线的AI代理，使用本地嵌入模型、通过Ollama的Llama模型以及VectorAI数据库，旨在解决依赖云端的AI所带来的风险。该代理运行在一台8GB内存的MacBook上，能够处理敏感文档，并在多个会话之间保持记忆。