MeshFlow:在任何本地模型上运行受治理的多智能体工作流——Ollama、LiteLLM、Bedrock——带有成本上限和审计追踪 [开源]
摘要
MeshFlow 是一个开源框架,用于在任何本地或自托管模型上运行受治理的多智能体工作流,支持成本上限、审计追踪和沙盒模式。
嘿,我构建了一个框架,支持你本地或自托管的任何模型。没有供应商锁定,也不需要强制使用 API 密钥。
```python
from meshflow import Agent, Workflow, CostCap
# 本地 Ollama — 无需 API 密钥
researcher = Agent(name="researcher", model="llama3.2")
analyst = Agent(name="analyst", model="mistral")
writer = Agent(name="writer", model="llama3.1:70b")
wf = Workflow(cost_cap=CostCap(usd=0.00)) # 本地 = 零成本
wf.add(researcher, analyst, writer)
result = wf.run("Write a technical analysis of transformer attention mechanisms")
```
支持以下模型:
- **Ollama** — `model="llama3.2"`、`model="mistral"`、`model="codellama"` 等
- **LiteLLM** — `model="groq/llama-3.1-70b"`,以及 100+ 个模型
- **AWS Bedrock** — `model="anthropic.claude-v2"`
- **Azure OpenAI** — 你自己的端点
- **任何兼容 OpenAI 的端点** — `OpenAICompatibleProvider(base_url="...")`
完全沙盒模式用于本地测试:完整的运行、完整的追踪、零模型调用:
```python
wf = Workflow(mode="sandbox")
result = wf.run("test this workflow")
# 完整的审计追踪、零模型调用、零成本
```
治理层(审计链、成本上限、合规策略、防护机制)无论你使用哪个模型都完全一致。HIPAA 合规强制执行不关心你运行的是 Llama 还是 Claude。
```bash
pip install meshflow
pip install "meshflow[full]" # 添加 Bedrock、Gemini、LiteLLM
```
相似文章
MeshFlow:生产安全的多智能体编排 — SHA-256 审计链,内置 HIPAA/SOX/GDPR 合规,降低 70-85% 的 Token 成本 [开源][D]
MeshFlow 是一个开源框架,专注于生产环境下的多智能体编排,内置 HIPAA/SOX/GDPR 合规性、SHA-256 审计链、70-85% 的代币成本降低以及持久化执行,将治理视为基础设施。
Mesh LLM:基于iroh的分布式AI计算
Mesh LLM 是一个分布式AI计算平台,它聚集多台机器上的闲置GPU来运行大型语言模型,并暴露单一的OpenAI兼容API。该平台利用iroh的点对点网络,实现无需中央服务器的私有、去中心化推理。
LeanFlow:工作流驱动的Lean自动形式化案例研究
LeanFlow是一个LLM智能体系统,用于将数学论文转化为形式化的Lean项目,通过案例研究和与Kimi-K2.6及GPT-5.5的基准测试进行评估,在预算限制内实现了高完成率。
结构化工作流与小规模本地模型的力量
作者详细介绍了使用小型本地模型(Qwen3.5 9B)结合结构化工作流和map-reduce模式来管理上下文限制、构建自定义智能体循环的经验,并已用其取代Claude Code处理大部分任务。
跨整个组织的简单多智能体架构。让一切保持循环。
本文描述了一个大规模运行的多智能体架构,使用LangGraph、CrewAI和Harbor来处理目标智能体、任务协调以及带有追踪的安全访问。