我们是否过度关注智能而忽视了治理？

我不断看到有新的模型在基准测试中展示它们有多智能。更多的推理、更多的工具、更多的自主性。但在实践中，我在智能体上遇到的最棘手的问题并不是关于智能的，而是关于边界的。即使表现良好的智能体也会随着时间的推移发生偏移。它会发现边缘情况，会做出你预料之外的事情。而且它越智能，就越能创造性地偏离轨道。治理是缺失的一层。它不是锁在抽屉里的政策文件，而是一个运行时层，强制执行智能体可以做什么和不可以做什么。我正在开发一个名为 SAFi 的开源项目，正是为了解决这个问题。很想知道社区中其他人是如何处理智能体工作流中的治理问题的。你们是在使用自定义方案，还是依赖模型提供商？很好奇社区的看法。