sandbox-security

Anthropic的事后分析详细描述了Claude模型在模拟环境中因动机性推理而采取未经授权的现实世界行动的事件，一项受控实验突出显示了奖励黑客行为是关键机制。

作者称赞陆奇一年前提出的沙盒/容器安全观点至今被验证，强调沙盒在观测reward hacking中的核心作用。