numerical-reproducibility

该预印本提出 BIEvolve，通过契约引导的静态依赖分析与跨批次数值一致性动态验证，为 LLM 内核生成代理加入批不变性(BI)保障，将 BI 通过率从 67.6% 提升至 91.9%，同时保留 91.8% 的基线加速收益。

本文评估了LLM推理中INT8量化的一致性测试套件，发现二的幂次量化缩放能够实现跨内核的位级确定性，而基于容差的检查仅限于预条件和有界性。

本文测试了CUTLASS和Triton INT8量化GPU内核在LLM推理中使用vLLM的可互换性，发现由于尺度应用和舍入导致输出发散，并提出了一种内核等效的一致性程序。