我开始构建一个开源工作流集合。Reddit 让我相信我解决错了问题。

我最初开始这个项目时，想法非常简单：让人们构建智能体工作流，分享它们，复用它们，并贡献自己的内容。我当时以为主要问题是如何让工作流更容易分发和协作。然后我开始思考一个更令人不安的问题。当一个智能体执行你不完全信任的东西时，到底会发生什么？一个模型/SLM。一个二进制文件。一个签名构件。一个工具。一个外部资源。你可以给智能体一个东西并告诉它：但如果那个东西实际上是一个黑盒，我们到底能知道多少？它被允许访问什么？它有什么权限？它能修改什么？它能产生哪些副作用？数据会去哪里？我们能阻止它吗？当它失败时会怎样？ 我最近看到了一场关于木马化 SLM 和恶意模型构件的讨论/视频，这进一步推动了这个想法。也许问题不在于工作流本身。也许我们需要一个围绕工作流的契约。一个能够描述智能体工作流相关的期望、边界、权限、输入、输出、副作用、治理和恢复期望的东西——同时保持实际实现的灵活性。 而 Reddit 恰恰是在这里改变了这个项目。我开始和这里的人们讨论最初的工作流想法，一些批评让我重新思考整个抽象。经过反复讨论，我从“让我们标准化并分享工作流”转向了“让我们定义工作流/智能体应在其下运行的契约”。这最终变成了 Agent Contracts，现在我已经把基础实现发布为 Scyvera。 它还很早期。我并不声称这是智能体治理的解决方案。事实上，我很确定有些事情我搞错了。这也是我把它放在这里的一部分原因。我真心希望人们能挑出毛病。契约层真的有用吗？契约里应该包含什么？不应该包含什么？我是不是又在做错误的抽象？你会怎么用不同的方式来处理？如果这个想法说得通，就在此基础上发展。如果你觉得它很糟糕，请告诉我原因。如果你看到了一个完全不同的方向，我很想听听。这个项目曾因社区反馈而改变。我希望下一个版本也会如此。