我将 Andrej Karpathy 的 LLM Council 概念提升到了新高度(Docker、MCP、技能、搜索、本地/云端模型支持等)
摘要
一款新的开源 AI 工具实现了 Andrej Karpathy 的 LLM Council 概念,支持 Docker、MCP、本地/云端模型以及搜索集成,以实现更好的多模型推理。
https://preview.redd.it/90dgpjg9ri6h1.png?width=3316&format=png&auto=webp&s=5294bee2b5491b9270cdfa6928c78ab3f806cff8 我将 Andrej Karpathy 的 LLM Council 概念提升到了新高度(Docker、MCP 和本地模型支持)
我们希望从 LLM 获得更好的答案,但依赖单一模型是不够的。所以我构建了 The AI Counsel,它运行两种不同的审议模式:
首先是 LLM Council 模式。它运行一个三阶段流程:个人回复、匿名同行评审和主席总结。这最适合事实性问题和对直接答案的需求。
其次是 LLM Advisors 模式。多个可定制的角色(如怀疑者、策略师、伦理学家)在可配置的轮次中辩论你的问题,达成共识后给出结构化结论。这最适合决策、策略和权衡分析。
我将该工具打包为 Docker 容器,内置 MCP 服务器以提供完整的 API 访问。你可以将其连接到任何支持 MCP 的代理,例如 Hermes 或 OpenClaw。它附带专用技能,因此你的代理可以直接调用它。你可以使用本地 Ollama 模型启动,或连接来自 OpenCode Zen/Go 和 NVIDIA NIM 的免费模型。我还内置了与 OpenAI、Anthropic、OpenCode、Mistral 和 DeepSeek 的直接连接。
为了让回应基于最新的网络信息,我添加了搜索引擎。它支持 DuckDuckGo(免费,无需 API 密钥)、Serper、Brave 和 TinyFish(都有免费层)。我还集成了 Jina AI,用于获取完整文章供 LLM 阅读。
工具中的一切都是可配置的,从系统提示到模型温度。还有针对委员会的先进辩论模型。这个工具非常庞大。完全免费且开源。查看仓库:[https://github.com/jacob-bd/the-ai-counsel](https://github.com/jacob-bd/the-ai-counsel)
相似文章
@omarsar0: 要使用LLM Council与您自己的代理,可以查看我的llm-council技能。它适用于Fireworks AI API,但您可以…
DAIR Academy Plugins是一个用于Claude Code的开源插件市场,包含一个llm-council技能,该技能通过Fireworks AI协调多个开放权重的大语言模型(LLM)。
@DeRonin_: 这个长达两小时的安德烈·卡帕西讲座,关于如何使用LLM,教给你的东西比大多数AI推特账号能弄明白的要多得多……不……
安德烈·卡帕西的讲座揭示了一种“LLM Wiki”模式,能将过往内容转化为一个自我更新的知识库,帮助创作者发现自身写作中的模式。
大语言模型“坦诚相告”、自动化科学研究、Copilot 用户真正想要什么、降低推理成本
DeepLearning.AI 推出《Build with Andrew》课程,帮助零编程基础的用户在 30 分钟内利用 AI 构建 Web 应用;同时,最新研究聚焦大语言模型的透明度问题,涵盖模型诚实性与自动化科学研究能力等方向。
@oliviscusAI:OpenAI 联合创始人刚刚发布了他的个人指南,教你从头训练大语言模型。它叫 llm.c。无需繁琐设置。只…
OpenAI 联合创始人 Andrej Karpathy 发布了 llm.c,这是一份开源指南,教你如何从头训练大语言模型。代码简洁,可在任何硬件上运行,包括 CPU 和 MacBook,并且比标准方法快 7%。
@omarsar0:受 @karpathy 的 LLM 知识库想法启发的 LLM Artifacts,我一直在构建一种生成动态产物的有趣方式……
受 @karpathy 的 LLM 知识库想法启发,我一直在构建 LLM Artifacts:一种有趣的方式,可以从这些知识库中生成动态产物,旨在发现并揭示有意义且更深层的洞察。LLM 知识库对人类来说很难直接理解消化,正如我