procedural-compliance

该论文介绍了 BABA-Bench，这是一个包含 47 个交互式患者权益倡导场景的基准，会实时检查智能体的每项操作是否具备权限和证据支持，以及是否涉及禁止执行的步骤。研究对 14 个前沿模型进行了共 1,974 次运行评估，发现智能体经常通过不合规的路径达成正确结果——例如，Claude Opus 5 在 81.6% 的运行中达成了所有预期结果，但仅在 52.5% 的运行中通过了全部程序合规检查——而提供经过验证的路径可将通过率提升至 91% 以上。