I built a governance layer for CrewAI (pip install crewai-governance)
摘要
作者为 CrewAI 构建了一个治理工具,旨在解决多智能体系统中的协调故障问题,该工具包含退出报告、重叠检测和知识继承等功能。
37% 的多智能体系统故障源于协调崩溃。并非能力问题——而是协调问题。智能体完成任务后,其工作成果便消失无踪。两个智能体在不知情的情况下执行了相同任务。新的运行会重复旧的错误。我构建了 crewai-governance 来解决最常见的三个问题:
- **退出报告**:每次 Crew 运行后生成结构化 JSON 报告(记录每个任务的执行内容、成功点、失败点、Token 用量)
- **重叠检测**:启动前扫描活跃的 Crew,若任务范围存在重叠则发出警告
- **知识继承**:自动将前次运行摘要注入新 Crew 的上下文
这源于构建完整治理框架时的领悟:没人会采用包含 39 条规则的治理体系,但可能愿意采用解决实际痛点的 3 个功能。你们在多智能体系统中遇到了哪些协调难题?你期望治理层具体提供什么能力?
相似文章
我构建了一个治理层,让AI智能体可以构建自己的工具,但不能越过我设定的红线
作者构建了Arcforge,这是一个治理层,允许AI智能体生成并注册自己的工具(例如,通过OpenAPI创建支付工具),同时在智能体持有API密钥之前就强制执行策略限制(例如,阻止一笔9,999美元的收费)。这是一个早期原型,正在寻求关于护栏的反馈。
我们向AI智能体展示了它自己的治理记录,结果它开始用了起来
一项针对AI编码智能体的本地治理框架实验表明,当智能体自身的治理记录在其上下文中呈现时,智能体会开始自我纠偏,遵循策略并请求意图声明,而无需强制执行。
为AI智能体构建了身份/权限/审计层。在更多人使用前诚求反馈
一位开发者构建了一个SDK,为LangChain、CrewAI等AI智能体框架添加身份、权限和审计功能,并寻求对其方法的反馈。
我把我的AI代理治理平台上线了。来试试攻破它。
作者发布了Bendex Arc,一个面向AI代理的开源治理层,用于强制权限、阻止操控,并包含一个用于测试的实时演示。
代理AI的运行时治理:基于可信来源和失败关闭执行的动作边界控制
本文介绍了Aegis,一个代理AI的运行时治理系统,通过可信授权调解工具操作,防止在评估的沙箱场景中出现高风险副作用。