大多数人的最佳现实本地AI

所以，你有一张3090甚至5090？或者更可能是4060 8GB Ti。你想试试本地AI，但不知道它能做什么/不能做什么。 1) 安装你能安装的最好的模型。如果你有3090或5090，那就是Qwen 27b。如果是4060，那就是Qwen 35b-3a。搜索这个论坛，35b-3a在8GB显卡上可以跑得飞起。 2) 注册一个OpenRouter账户。这是帮助你运行本地AI的“大脑”。 3) 下载Hermes agent harness（代理框架），设置一个连接到OpenRouter上Qwen-3.7或kimi-K3或GLM-5.2的架构师配置文件。 4) 为coder、worker和browser-reviewer设置Hermes配置文件，连接到你的本地模型，无论是Qwen-27b还是qwen-35b-3a。 5) 为架构师配置文件（连接到OpenRouter上的一个好模型）设置你的SOUL.md，使其非常清楚自己的角色是规划（这是本地代理无法触及大模型的地方），并使用Hermes的delegate_task工具启动子代理。它是架构师和委托者。告诉它派出子代理扫描代码库。告诉它使用子代理制定分阶段实施计划。告诉它不要写代码，而是使用子代理程序员。 6) 启动下一个Hermes会话：Hermes -p architect（如果使用CLI）。执行一些提示，观察它向你的本地AI发送子任务。 6) 获利。