智能体AI系统的治理实践

# 智能体AI系统的治理实践 来源：https://openai.com/index/practices-for-governing-agentic-ai-systems/ OpenAI ## 摘要 智能体AI系统——能够在有限直接监督下追求复杂目标的AI系统——如果我们能够负责任地将其整合到社会中，将具有广泛的实用价值。虽然这类系统具有帮助人们更高效、更有效地实现自身目标的巨大潜力，但它们也会产生伤害风险。在本白皮书中，我们提出了智能体AI系统的定义及其生命周期中的各方，并强调了就这些方的基线责任和安全最佳实践达成共识的重要性。作为我们的主要贡献，我们提供了初步的实践指南，以保持智能体运作的安全和问责，我们希望这些指南能够成为开发商定基线最佳实践的基础。我们列举了在实施这些实践的过程中必须解决的问题和不确定性，这些问题和不确定性必须在这些实践被编入规范前得到解决。随后，我们重点介绍了智能体AI系统广泛应用产生的间接影响的类别，这些影响可能需要额外的治理框架。 我们正在启动一项资助计划，向从事智能体AI系统影响研究及其安全实践的研究提供10,000至100,000美元的赠款。 该资助计划目前已关闭。