我将 Andrej Karpathy 的 LLM Council 概念提升到了新高度(Docker、MCP、技能、搜索、本地/云端模型支持等)

Reddit r/ArtificialInteligence 工具

摘要

一款新的开源 AI 工具实现了 Andrej Karpathy 的 LLM Council 概念,支持 Docker、MCP、本地/云端模型以及搜索集成,以实现更好的多模型推理。

https://preview.redd.it/90dgpjg9ri6h1.png?width=3316&format=png&auto=webp&s=5294bee2b5491b9270cdfa6928c78ab3f806cff8 我将 Andrej Karpathy 的 LLM Council 概念提升到了新高度(Docker、MCP 和本地模型支持) 我们希望从 LLM 获得更好的答案,但依赖单一模型是不够的。所以我构建了 The AI Counsel,它运行两种不同的审议模式: 首先是 LLM Council 模式。它运行一个三阶段流程:个人回复、匿名同行评审和主席总结。这最适合事实性问题和对直接答案的需求。 其次是 LLM Advisors 模式。多个可定制的角色(如怀疑者、策略师、伦理学家)在可配置的轮次中辩论你的问题,达成共识后给出结构化结论。这最适合决策、策略和权衡分析。 我将该工具打包为 Docker 容器,内置 MCP 服务器以提供完整的 API 访问。你可以将其连接到任何支持 MCP 的代理,例如 Hermes 或 OpenClaw。它附带专用技能,因此你的代理可以直接调用它。你可以使用本地 Ollama 模型启动,或连接来自 OpenCode Zen/Go 和 NVIDIA NIM 的免费模型。我还内置了与 OpenAI、Anthropic、OpenCode、Mistral 和 DeepSeek 的直接连接。 为了让回应基于最新的网络信息,我添加了搜索引擎。它支持 DuckDuckGo(免费,无需 API 密钥)、Serper、Brave 和 TinyFish(都有免费层)。我还集成了 Jina AI,用于获取完整文章供 LLM 阅读。 工具中的一切都是可配置的,从系统提示到模型温度。还有针对委员会的先进辩论模型。这个工具非常庞大。完全免费且开源。查看仓库:[https://github.com/jacob-bd/the-ai-counsel](https://github.com/jacob-bd/the-ai-counsel)
查看原文

相似文章