Show HN: 我构建了 Otis,一个开箱即用运行本地模型的简约 AI 智能体

Hacker News Top 工具

摘要

Otis 是一个开源 AI 智能体,为您提供简约、注重隐私的体验,用于运行本地和托管的开放权重模型,根据硬件自动推荐和下载模型。

大家好,<p>一直在开发 Otis,一个开源 AI 智能体,为您提供跨本地和托管开放权重模型的简约体验,在设计上注重隐私。<p>在设置时,它会根据 Otis 运行的硬件推荐一个本地模型,为您下载并通过 llama.cpp 运行。还支持 Ollama、LM Studio 和 Nvidia PAIR。<p>期待大家试用,欢迎所有反馈!
查看原文

相似文章

大多数人的最佳现实本地AI

Reddit r/LocalLLaMA

一份在消费级GPU上运行本地AI的实用指南:将大型云端模型作为架构师,与较小的本地模型作为子代理配对,使用OpenRouter和Hermes等工具。