在SAFi中构建和管理AI代理

大家好，过去一年半的时间里，我一直在构建**SAFi**（Self-Alignment Framework Interface，自对齐框架接口），这是一个针对AI代理的运行时治理引擎。SAFi是自托管的，并且在**AGPL-3.0**许可证下完全开源。我一直在本子版块从哲学和理论角度讨论SAFi，但今天我想从实践角度来谈谈。完全坦白：我在IT行业工作了20多年，SAFi的设计方式就像一个IT专业人士在企业环境中构建架构一样。SAFi假设一个公司环境，包含**组织章程**——使命陈述、核心价值观以及至少一项政策。你只需要一项政策就能成功部署代理。SAFi还实现了**零信任**方法：每个代理默认不启用任何工具或高级功能。工具在**政策**级别获得授权，当你通过创建向导构建代理时，你可以选择的工具只能是治理政策已经授权的那些。在治理机构允许之前，没有任何东西可用。除此之外，SAFi使用**基于角色的权限**结构——成员、审计员、编辑员和管理员： * **成员**只能使用已经构建好的代理。 * **审计员**拥有对代理、策略和日志的只读访问权限——他们可以看到发生了什么，但不能更改任何内容。 * **编辑员**可以编辑策略，以及创建和编辑代理。 * **管理员**可以执行上述所有操作，此外还可以设置组织章程、验证域以及向系统添加用户。 请访问演示站点查看所有可用的内容。 现在治理架构已经运行并生成日志，我想开始构建能够做更多事情而不仅仅是生成文本的代理。为了具体化，我构建了两个代理：一个作为我的工作助手，另一个用于个人兴趣。 # 记忆：可靠代理的基础 为了构建可靠的代理，我认为**记忆**是最重要的——如大家所知，记忆有很多种类型。以下是如何在SAFi中处理记忆： 1. **伦理记忆。** 这是SAFi的秘密武器。当你创建代理时，你定义其目的和一组与该目的一致价值观。在SAFi中，*对齐*被定义为代理输出与其陈述价值观之间的一致性，系统在每一轮交互中对该一致性进行评分，并随时间记住它。 2. **对话记忆。** SAFi将最近几轮对话原样保留在上下文窗口中，并对所有较旧的内容维护一个运行摘要，这样长篇对话保持连贯性而不会撑爆上下文。 3. **个人资料数据。** 如果你在个人资料中填写了字段，模型会使用它们来个性化其回答和操作。 4. **项目和任务记忆。** 启用此功能后，代理会累积并记住与正在进行的工作相关的事项——项目、任务、供应商、人员、里程碑、截止日期、决策和完成日期——跨越你与它的每一次对话。 # 用例#1——工作助手 我创建了一个代理作为我的工作个人助理。我使用AI来起草、优化和总结电子邮件，并针对想法和项目进行头脑风暴。我的主要职责包括供应商管理、团队管理和基础设施规划，所以代理必须保持大量上下文。我还希望代理每天（周一至周五）给我发送带有行动事项的日常状态更新。我上周开始在SAFi中进行此操作，并跟踪其表现。 SAFi是**模型无关**的，你选择作为生成大脑的模型对代理的智能程度有很大影响，因为它必须综合所有信息。对于这个代理，我使用的是**DeepSeek V4**，老实说，它相当不错。虽然还没有好到我会让它自动发送更新给我的老板或给供应商发邮件——暂时不会——但它已经足够好，能够记住每个项目和任务，这使得跟踪进度变得容易得多。我可以说*“起草一封给供应商X的邮件，关于待办事项”*，它生成的内容几乎不需要修改我就能复制、粘贴并发送。我可以说*“给我的老板生成一份状态更新”*，它会准确地汇总所有信息。才刚一周，但我感觉如果继续微调并逐步建立信任，我最终会让它自主完成一些事情。这种信任必须基于我正在进行的试点项目慢慢地建立。 # 用例#2——圣经学者 另一个代理是一个圣经学者。我是天主教徒，平时我喜欢阅读每日的弥撒读经福音；周日我喜欢阅读全部三篇读经。直到现在我一直手动进行。现在我已经设置代理每天早上给我发送当天的福音经文及学术评论，周日则发送全套三篇读经以及它们如何关联的综合分析。我也为这个代理使用DeepSeek，效果令人惊叹。我喜欢模型如何为我量身定制内容，而且自动发送到我的收件箱意味着我不必登录SAFi手动生成——我醒来时它就在那里，我一边煮咖啡一边阅读。 # 与你的代理对话 SAFi是一个基于API的平台。你可以通过我构建的原生JavaScript前端，或者通过我已经集成的**Telegram**和**Microsoft Teams**与你的代理对话。由于一切都是通过干净的API驱动的，你可以将其连接到任何支持基于API的机器人的平台——WhatsApp、Slack或你使用的任何其他平台。SAFi是我所知道的唯一一个让你能够创建既了解你组织的品牌和文化*又*能够追踪自身与创造目的对齐情况的代理的平台。