pre-deployment

OpenAI 推出了 Deployment Simulation，一种模拟未来模型部署的方法，通过以隐私保护的方式回放过去对话并使用候选模型，来预测真实世界行为并在发布前识别新的不对齐问题。

研究人员提出了一种基于本体论的企业AI智能体部署前验证框架，结合了智能体操作包络、自动化场景生成以及可机器验证的信任证书与分级部署判定。在四个受监管行业开展的试点研究共生成1,800个测试场景，结果显示基于本体论的生成方法在监管覆盖率上显著优于基于角色的基线方法。