我将 Andrej Karpathy 的 LLM Council 概念提升到了新高度(Docker、MCP、技能、搜索、本地/云端模型支持等)
摘要
一款新的开源 AI 工具实现了 Andrej Karpathy 的 LLM Council 概念,支持 Docker、MCP、本地/云端模型以及搜索集成,以实现更好的多模型推理。
https://preview.redd.it/90dgpjg9ri6h1.png?width=3316&format=png&auto=webp&s=5294bee2b5491b9270cdfa6928c78ab3f806cff8 我将 Andrej Karpathy 的 LLM Council 概念提升到了新高度(Docker、MCP 和本地模型支持)
我们希望从 LLM 获得更好的答案,但依赖单一模型是不够的。所以我构建了 The AI Counsel,它运行两种不同的审议模式:
首先是 LLM Council 模式。它运行一个三阶段流程:个人回复、匿名同行评审和主席总结。这最适合事实性问题和对直接答案的需求。
其次是 LLM Advisors 模式。多个可定制的角色(如怀疑者、策略师、伦理学家)在可配置的轮次中辩论你的问题,达成共识后给出结构化结论。这最适合决策、策略和权衡分析。
我将该工具打包为 Docker 容器,内置 MCP 服务器以提供完整的 API 访问。你可以将其连接到任何支持 MCP 的代理,例如 Hermes 或 OpenClaw。它附带专用技能,因此你的代理可以直接调用它。你可以使用本地 Ollama 模型启动,或连接来自 OpenCode Zen/Go 和 NVIDIA NIM 的免费模型。我还内置了与 OpenAI、Anthropic、OpenCode、Mistral 和 DeepSeek 的直接连接。
为了让回应基于最新的网络信息,我添加了搜索引擎。它支持 DuckDuckGo(免费,无需 API 密钥)、Serper、Brave 和 TinyFish(都有免费层)。我还集成了 Jina AI,用于获取完整文章供 LLM 阅读。
工具中的一切都是可配置的,从系统提示到模型温度。还有针对委员会的先进辩论模型。这个工具非常庞大。完全免费且开源。查看仓库:[https://github.com/jacob-bd/the-ai-counsel](https://github.com/jacob-bd/the-ai-counsel)
相似文章
@0xRicker:安德烈·卡帕西刚刚从零开始构建了一个LLM,并开源了所有代码 它仍然包含完整的LLM流水线:→ …
安德烈·卡帕西从零开始构建了一个LLM,并开源了所有代码,涵盖了数据集、训练循环和推理循环的完整流水线,延续了他通过micrograd和makemore简化AI教育的工作。
@omarsar0: 要使用LLM Council与您自己的代理,可以查看我的llm-council技能。它适用于Fireworks AI API,但您可以…
DAIR Academy Plugins是一个用于Claude Code的开源插件市场,包含一个llm-council技能,该技能通过Fireworks AI协调多个开放权重的大语言模型(LLM)。
@akshay_pachaar: Andrej Karpathy 将LLM训练的整个历史总结为三个名词:- 文本 - 对话 - 及环境…
Andrej Karpathy将LLM训练概括为文本、对话和环境;Prime Intellect的Verifiers是一个开源框架,用于构建和共享LLM的强化学习环境,采用MIT许可证发布,附带一个包含2500多个环境的中枢。
法律中多智能体协商研究
本文研究了使用LLM进行法律推理任务的多智能体协商方法,引入了两种受法庭程序启发的新框架。实验表明,多智能体系统在整体性能上与单一LLM相当,但能产生截然不同的答案,并能解决基线模型无法处理的案例,突显了多智能体方法在法律AI中的潜力。
@DeRonin_: 这个长达两小时的安德烈·卡帕西讲座,关于如何使用LLM,教给你的东西比大多数AI推特账号能弄明白的要多得多……不……
安德烈·卡帕西的讲座揭示了一种“LLM Wiki”模式,能将过往内容转化为一个自我更新的知识库,帮助创作者发现自身写作中的模式。