EpochGo:基于离线 Ollama LLM 与确定性 Scikit-Learn 管道的本地优先多智能体 AutoML 引擎 [P]
摘要
EpochGo 是一个开源的、本地优先的多智能体 AutoML 引擎,它使用离线的 Ollama LLM(qwen2.5-coder:7b)作为编排器,驱动确定性的 Scikit-Learn 管道,具备基于 AST 的验证和自动生成的 FastAPI 服务端点,可在消费级硬件上 100% 离线运行。
大家好 r/MachineLearning,我想分享一下 EpochGo——一个开源的本地优先 AutoML 系统,旨在解决应用机器学习中的两大瓶颈:
1. **云端 API 推理成本与数据隐私风险**:传统的智能体 ML 框架高度依赖云端 API(如 GPT-4),会产生持续的费用,并存在表格数据泄露的风险(尤其是在 DPDP/GDPR 等企业合规和数据保护法规下,这一点尤为关键)。
2. **LLM 在数学推理中的幻觉问题**:LLM 在线性代数、超参数优化和梯度下降计算等方面经常出错,尤其是在生成原始训练逻辑时,这一点臭名昭著。
**架构**
https://i.redd.it/znmjaciji1wh1.gif
EpochGo 将推理层与执行层分离:
- **本地 LLM 作为编排器**:由 Ollama(`qwen2.5-coder:7b`)驱动,智能体检查列分布、基数和缺失情况,从而起草特征工程和建模策略。
- **确定性 Scikit-Learn 执行**:所有变换和模型拟合均通过纯 Scikit-Learn `Pipeline` 对象执行。LLM 不接触原始数据行,只基于模式元数据进行推理。
- **AST 验证与安全保障**:生成的 Python 代码在执行前会被解析为抽象语法树(AST),以强制安全执行,防止任意系统命令或数据泄露到沙箱之外。
- **动态服务化**:一旦使用隔离的 K 折交叉验证评估出最优管道(XGBoost、随机森林、逻辑回归),引擎会自动生成一个容器化的 FastAPI 端点,可立即用于推理。
该引擎在标准消费级硬件上 100% 离线运行(Mac/Linux/Windows,16GB 内存),零云计算成本。
**代码与架构**:https://github.com/AryanDinakaran/EpochGo
非常期待大家对管道隔离设计的反馈,以及在离线处理高基数分类数据时可能遇到的任何边界情况!
相似文章
Olla v0.1.0 - 轻量级开源 LLM 代理,适用于家庭实验室和本地部署推理(支持 Ollama、vLLM、SGLang、llama.cpp、oMLX,具备故障转移、会话保持和负载均衡功能)
Olla v0.1.0 推出了一款轻量级开源 Go 代理,将多个本地 LLM 推理运行时(Ollama、vLLM、SGLang、llama.cpp、MLX 等)统一到单一端点,提供模型感知路由、负载均衡、故障转移、会话保持以及兼容 OpenAI/Anthropic 的 API。此次更新新增了对 Hugging Face TEI 的支持,重新设计了仪表板,支持配置重试行为,并改进了模型能力检测。
Agentao:面向工具使用LLM代理的受控本地优先运行时
Agentao 介绍了一种用于使用工具的LLM代理的受控本地优先运行时,通过将模型生成的操作与主机授权的执行分离,以提高安全性和治理性。
我用 Ollama 构建了一个本地自主编码代理——微调灵魂模型,40轮代理循环,MiniMax M3 处理重活
一位开发者使用 Ollama 构建了一个本地自主编码代理,结合了微调个性模型(Eve)进行对话和 MiniMax M3 处理重活,实现了 40 轮代理循环,包含 16 个工具,9 个测试全部一次通过。
@PrajwalTomar_: https://x.com/PrajwalTomar_/status/2069409824824316060
作者构建了一个完全离线的AI代理,使用本地嵌入模型、通过Ollama的Llama模型以及VectorAI数据库,旨在解决依赖云端的AI所带来的风险。该代理运行在一台8GB内存的MacBook上,能够处理敏感文档,并在多个会话之间保持记忆。
构建了一个开源、规范驱动的 AI 开发工具,可在同一功能上并行运行多个智能体,并由 LLM 评审选出最佳实现
Aigon 是一款开源工具,可在同一功能上并行运行多个 AI 编码智能体(功能通过 Markdown 规范定义),并使用 LLM 评审选出最佳实现,配备可视化看板和可选调度功能。