标签
FlashTrie提出了一种GPU加速的约束束搜索方法用于生成式检索，利用简洁的trie布局和协作式CUDA内核来降低解码延迟，实现大规模实时服务，在商业搜索引擎中实现了高达24倍的加速和0.71%的收入提升。