aho-corasick

本文介绍了trie自动机，一种专为有限集设计的约束解码机制，通过Aho-Corasick匹配预计算token掩码，在vLLM批处理中相比XGrammar实现了高达29倍的端到端吞吐量提升，同时保证100%的输出有效性。