simpsons-paradox

本文主张，在AI价值对齐中聚合道德评估时必须考虑语境因素，表明忽略语境可能导致违反弱帕累托原则，类似于辛普森悖论。

这篇学术论文识别并表征了行为曲线建模中的辛普森悖论，展示了由于生存偏差，聚合如何系统性地扭曲对用户动态的参数估计。作者们在 Goodreads 和 Amazon Electronics 等数据集上验证了这种失真，并提出了分层峰值估计方法来缓解这一问题。

本文通过指出基于似然的机器生成文本检测器在 token 分数聚合中存在的辛普森悖论，解决了此类检测器性能下降的问题。本文提出了一种学习到的局部校准步骤，显著提升了各种模型和数据集上的检测性能。