MeshFlow:生产安全的多智能体编排 — SHA-256 审计链,内置 HIPAA/SOX/GDPR 合规,降低 70-85% 的 Token 成本 [开源][D]

Reddit r/MachineLearning 工具

摘要

MeshFlow 是一个开源框架,专注于生产环境下的多智能体编排,内置 HIPAA/SOX/GDPR 合规性、SHA-256 审计链、70-85% 的代币成本降低以及持久化执行,将治理视为基础设施。

79%的企业已采用AI代理,仅11%在生产环境中运行。过去一年,我们为银行、临床运营团队和工程组织构建了代理系统。问题不在于代理不可用——它们运行良好。问题在于每个框架都将合规、成本治理和崩溃恢复留作团队自行处理,而且往往是在框架在生产环境中失效之后。我们构建了MeshFlow来弥补这一差距。**核心理念:** 将治理视为基础设施,而非中间件。每个代理步骤都会经过一个15步内核,该内核处理身份、速率限制、预算执行、合规配置文件、输入/输出护栏、PII检测、风险分类、工具权限、LLM调用本身、审计账本写入和SLA记录——按此顺序,始终如此,无需配置。 ```python from meshflow import Workflow, CostCap, Agent wf = Workflow(cost_cap=CostCap(usd=5.00)) wf.add(Agent('researcher'), Agent('analyst'), Agent('writer')) result = wf.run('Write a competitive analysis of our market') # 合规。持久。审计。成本受限。完成。 ``` ```bash pip install meshflow ``` **技术亮点:** **Token优化层** — 五种复合机制,可将LLM支出降低70-85%: - `cache_control`:应用于每个系统提示和工具定义(Anthropic:缓存token仅需正常价格的10%) - `ModelRouter`:任务类型分类将简单任务路由至nano模型(基于关键字+token计数启发式,零LLM调用) - `ContextCompactor`:滑动窗口摘要,可在可配置的token阈值处激活 - `RAGTokenBudget`:对知识注入设置严格的`max_chars`上限,并采用截断/丢弃/尾部策略 - `ContextDeduplicator`:对于N个并行代理,共享上下文仅发送一次,而非N次 **SHA-256审计链** — 每个步骤记录存储`prev_hash`(前一条记录的SHA-256哈希)和`entry_hash`(自身规范字段的SHA-256哈希)。修改任意日志条目会导致`verify_chain()`失效。这正是HIPAA §164.312(b)和SOC 2 CC7.2真正需要的工件。 **持久执行** — `DurableWorkflowExecutor`支持五种后端(内存、SQLite、Redis、Postgres、S3)。在重启时,使用相同的`run_id`可从上一个检查点继续执行。对于包含副作用的流程,这不仅是便利性,更是正确性的要求。 **ReplayLedger交互式API** — `diff(run_a, run_b)`返回结构化`RunDiff`(变更节点、成本差异、token差异)。`fork(run_id, from_step=3)`创建新运行,复制步骤0–2。`load_state(run_id, step_index)`实现时间旅行检查。账本设计为仅追加。 **框架无关** — `govern(your_langgraph_graph)`、`from_crewai(your_crew)`、`from_autogen(your_agent)`可为任何现有系统添加治理,无需重写。4379个通过测试。Apache 2.0。`pip install meshflow`。GitHub:https://github.com/Anteneh-T-Tessema/meshflow 文档:https://meshflow.dev 欢迎回答有关架构的技术问题。
查看原文

相似文章