构建真正实用的 AI Agent 的 10 个 GitHub 仓库 不是又一份随机 AI demo 的清单。 如果我现在就要构建 Agent，这些仓库是我真正会收藏的： 1. SIE —— 你整个 Agent 技术栈的模型层 不用为嵌入、重排序、视觉、语音、OCR 等不同模型分别搭建部署环境，SIE 让你可以通过一个自托管的推理层来提供所有这些服务。 GitHub: https://github.com/superlinked/sie 2. LiteLLM —— 一个 API 接入 100+ 个 LLM 在不同的供应商和模型之间自由切换，无需重写整个应用。 GitHub: https://github.com/BerriAI/litellm 3. PydanticAI —— 用 Python 和类型安全的方式构建 Agent 如果你希望 Agent 工作流读起来更像普通的 Python 应用，这个项目非常适合。 GitHub: https://github.com/pydantic/pydantic-ai… 4. DSPy —— 以编程方式编排 LLM 流水线 不必再到处手动调 prompt，而是构建并优化模块化的 AI 程序。 GitHub: https://github.com/stanfordnlp/dspy… 5. CrewAI —— 多 Agent 工作流 构建一套系统，让不同的 Agent 各司其职、协同工作。 GitHub: https://github.com/crewAIInc/crewAI… 6. LlamaIndex —— 让 Agent 连接你的数据 适合用来构建 RAG 系统、数据 Agent 以及知识密集型应用。 GitHub: https://github.com/run-llama/llama_index… 7. vLLM —— 快速的 LLM 推理 如果你想大规模部署开源模型，这是值得了解的项目之一。 GitHub: https://github.com/vllm-project/vllm… 8. SGLang —— 结构化生成 + 快速服务 专为从 LLM 应用中榨取更多性能和更强控制力而打造。 GitHub: https://github.com/sgl-project/sglang… 9. Qdrant —— 面向 AI 应用的向量检索 当你的 Agent 需要在大规模嵌入集合中进行检索时，一个可靠的开源选择。 GitHub: https://github.com/qdrant/qdrant 10. Open WebUI —— 你自己的 AI 界面 一个自托管的界面，可用于与本地模型和远程模型交互。 GitHub: https://github.com/open-webui/open-webui… 这份清单有趣之处在于： 你选的不只是一个 LLM。 你是在围绕它构建整个技术栈。 全部开源。 值得收藏。