extreme-value-theory

本文将一种基于Extreme Value Theory的CVaR优化方法从强化学习推广到高维神经网络策略，得到可通过自动微分计算的可微尾部风险目标函数，并证明在极端场景下，其对冲性能优于使用经验CVaR训练的策略。

该论文将 N 选优采样建模为正确响应与错误响应的极端奖励尾部之间的竞争，利用极值理论刻画了三种渐近机制并推导了有限样本缩放定律，解释了奖励投机导致的性能退化，并提出轻量级尾部张力准则来判断额外采样何时有害。

该论文指出了基于softmax的InfoNCE损失与现代对比学习中的归一化嵌入设置之间的不一致性。它提出了WEINCE，一种简单的修改，利用极值理论将softmax logits与端点短缺校正相结合，在视觉基准测试中取得了持续的改进。