context-free-grammars

本文对深度Transformer使用有界深度上下文无关文法建模层次结构的能力进行了理论分析，构建了显式的位置注意力Transformer，将文法状态编码到线性可分的子空间中。

本文介绍了一种高效的方法，利用正则表达式和上下文无关文法引导LLM文本生成，开销极小，并在开源Python库Outlines中实现。