标签
本文探讨了为AI代理创建策略层的挑战，即在安全性和可用性之间取得平衡，其中人工在环审批可能会减缓决策，但更严格的防护措施可能会妨碍可用性。
讨论当AI智能体不仅能生成文本还能采取实际行动（例如更新记录、调用API）时出现的新安全挑战，探索所需的基础设施，如限定范围的身份、策略层和操作日志。