标签
本文提出了一种新颖的Transformer验证方法，利用ReLU表示点积的精确但非线性的边界，从而实现精确且高效的验证。该方法在情感分析模型上优于现有最先进的基线方法。
本文介绍了 Vertex-Softmax，这是一种通过证明在区间约束下的精确 softmax 优化发生在约束盒顶点来实现紧密 Transformer 验证的方法。它在标准数据集上针对注意力模型的 CROWN 风格验证器中提高了认证准确性和效率。