unfaithfulness

本文介绍了推理一致性扫描，一种用于审计AI安全评估中思维链推理是否与最终答案逻辑一致的方法，并将其与忠实性区分开来。作者对不一致性子类型进行了形式化，构建了一个基准测试，实现了一个扫描器，并报告了跨模型和任务的研究结果。