predictive-monitoring

PreAct-Bench是一个包含五个领域、1000对道德与不道德行动轨迹的基准测试，旨在评估LLM从部分轨迹中预测有害结果的能力（预测性监控）。结果表明，虽然人类表现良好，但当前的LLM仍存在困难，凸显了未来导向的风险推理的必要性。