human-in-loop

一位开发者分享了在部署能够执行真实操作（如API调用和数据操作）的AI智能体时的担忧，并向社区询问他们的恐惧以及诸如护栏和人工审批等缓解策略。

一个开源信任引擎（测试版），帮助AI智能体从引导模式逐步过渡到协同工作再到自主状态，具备决策理由记录和人在回路审批功能，目前正在寻找早期采用者。