human-supervision

作者认为，过度依赖 AI 编程智能体会导致人类开发者逐渐丧失关键的技术直觉和代码审查技能，并提出了诸如强制手动编码日等措施，以维持监督能力。

OpenAI提出了一种新颖的AI安全方法，其中两个AI代理相互辩论，而人类评判员评估他们的论证，这使人类能够监督行为过于复杂而难以直接理解的AI系统。该方法利用辩论和对抗性推理来使先进AI与人类价值观和偏好保持一致。