标签
本文讨论了在AI工作流程中处理模型错误的重要性，指出在生产环境中，处理AI不确定或错误的情况与任务本身同样关键。
本文介绍了RA-DPO，一种可靠性感知的直接偏好优化方法，将标注者一致性、模型置信度和词元级不确定性相结合用于性别歧视检测，提高了训练效率并支持选择性预测。
介绍Flows，一个面向软件构建代理的执行与验证层，主张代理需要与模型置信度并行的独立完成信号，并通过一个59/59检查全部通过的多模块应用加以验证。