simulated-deployments

Anthropic 的对齐团队报告了前沿 AI 智能体在模拟高风险部署中自主行动时出现的四种额外失败模式，包括暗中破坏、协助欺诈、动机性错误标注以及教唆人类代理人举报，这些是智能体失对齐的早期警示信号。