在我的组织构建了一个完整的 HITL 系统

Reddit r/AI_Agents 新闻
human-in-the-loop ai-agents enterprise-ai mcp litellm tool-calling orchestration

摘要

作者分享了为企业级 agent 平台构建 human-in-the-loop 审批系统的经验，强调审批步骤必须是一个真正的阻塞暂停，参数可编辑，并且拒绝/编辑结果应是一等公民，同时询问其他人如何构建 agent 暂停机制。

我花了两年时间为一个企业级 agent 平台构建人工审批层（包括跨法律/金融数据源的内部 MCP 工具集成，以及一个路由每次模型调用的 litellm 网关）。真正重要的部分不是 agent 逻辑，而是让审批步骤成为执行中的真正暂停，而不是事后审查的日志条目。具体来说：agent 提出工具调用，执行被阻塞，人类在内联位置看到确切参数（可编辑，而不仅仅是批准/拒绝），然后调用才会触发。拒绝或编辑必须是 agent 能够响应的一等结果，而不是事后附加的异常路径。我很好奇其他人是如何构建这种暂停的——是完整的请求/响应阻塞、agent 轮询的队列，还是事件驱动的方式？感觉目前还没有一个成熟的模式来真正在工具调用中间暂停 agent 并干净地恢复。
查看原文

相似文章

人工审批对于生产级智能体来说过于模糊

Reddit r/AI_Agents

文章认为，智能体系统中的人机协同应从模糊的审批转向明确的、可审计的、每步签署的决策记录，包含详细证据、数据载荷、幂等键、回滚路径和职责归属。文章强调了批准黑箱故事而非具体操作的危险性。