我构建了一个AI支持代理的控制平面,而不是又造一个聊天机器人——寻求架构反馈
摘要
作者描述了RelayOps,一个AI支持代理的控制平面原型,强调关注点分离:模型提议行动,经纪人决策,高风险行动需要人工批准,并寻求架构反馈。
我一直在开发RelayOps,一个面向生产的AI支持代理控制原型。核心理念是:AI支持代理不应仅仅因为模型说了就执行现实世界中的操作。该架构围绕以下几个不变原则构建:模型提议。经纪人决策。行动包装请求。工具边界仅执行允许的范围操作。高风险操作需要人工批准。审计追踪记录每一步状态。重放验证检查一致性。Hermes审查追踪,但保持只读/顾问角色。人类/操作员承担责任。我构建的内容包括:范围客户/认证数据存储,Bearer Token认证 + 速率限制,策略经纪人,行动包装,MCP风格的工具边界,重放验证,操作员指标,Hermes告警,脱敏工单导入/报告工作流,人工批准队列,审批控制台 + 审计导出,端到端场景运行器,试点就绪文档。公开演示仅使用合成/示例数据。没有真实客户数据。没有生产用户。没有真实供应商集成。没有退款/支付/出站操作。没有隐藏的生产凭据。我最希望获得反馈的部分是:这是否是AI支持代理的正确控制平面形态?尤其是以下几个方面:经纪人应该放在哪里?重放应该如何运用?高风险操作应如何批准?哪些审计证据对操作员最重要?在真正试点之前还缺少什么?我并非声称这是生产级SaaS。它是一个面向生产的原型和架构参考。欢迎对设计提出反馈。
相似文章
我构建了一个AI支持代理原型,意识到难点不在于聊天机器人,而在于转交和审计追踪。希望从运行支持/客户体验工作流的人那里获得反馈。
作者构建了RelayOps,一个用于电信/订阅支持场景的AI支持代理原型,分享了50个工单样本的结果,并寻求关于转交记录、不安全操作、审计字段以及测试实用性的反馈。
我们有智能体框架了。但智能体控制平面在哪里?
AI智能体生态系统中有许多用于构建智能体的框架,但缺乏用于部署和治理的运营层,这引发了对是否需要智能体控制平面的讨论。
编码智能体是否需要类操作系统的控制平面?我构建了一个原型并寻求批评意见。
作者介绍了“KnowledgeOS”,这是一个原型控制平面,旨在通过管理任务生命周期、防止状态漂移和确保执行证据来治理本地编码智能体。他们希望获得关于此类操作系统级抽象是否必要,或者是否属于智能体工作流中过度设计的架构批评。
我受够了AI代理在生产环境中静默失败,于是为它们构建了一个运行时控制层
作者构建了一个运行时控制层,以解决AI代理在生产环境中静默失败的问题。
有人想了解先进公司是如何在实际生产环境中运行AI代理的吗?
作者在一家AI基础设施公司工作,观察到在实际生产环境中运行AI代理更多是关于环境、访问控制、隔离和安全状态管理,而非模型本身,并询问社区是否想要详细的架构模式。