constrained-decoding

标签

Cards List
#constrained-decoding

GrocLM:基于大型语言模型的电子商务杂货品类推荐

arXiv cs.AI · 19小时前 缓存

本文提出了GrocLM,一种通过两阶段LoRA训练策略和基于字典树的约束解码进行微调的语言模型,用于杂货品类推荐。在实时生产补货任务中,其每次展示的加购次数相对提升了7.5%。

0 人收藏 0 人点赞
#constrained-decoding

UZH Shared Task 2026中的LLM-INSTRUCT:用于段落级论点挖掘的约束感知检索与选择性辩论

arXiv cs.CL · 5天前 缓存

本文介绍了LLM-INSTRUCT,它是ArgMining 2026 UZH Shared Task中段落级论点挖掘任务的获胜系统。该系统采用约束感知检索和选择性辩论来提高准确性和schema合规性。

0 人收藏 0 人点赞
#constrained-decoding

无需重新训练的跨方言泛化:面向MLIR的基于模式约束解码的基准与评估

arXiv cs.AI · 2026-07-22 缓存

本文介绍了跨多种方言的自然语言到MLIR代码生成的基准测试,以及一个基于模式约束的解码栈,该栈使得小型语言模型无需重新训练即可在结构验证器任务上匹配或超越大型代码语言模型。

0 人收藏 0 人点赞
#constrained-decoding

基于策略的条件约束解码实现文本到SQL中的列级访问控制

arXiv cs.CL · 2026-07-15 缓存

本文介绍了PCC-SQL,一种通过约束解码在文本到SQL生成中强制执行列使用策略的方法,实现了违规的确定性消除,泄漏率为0%,并在基准测试中达到了高覆盖率。

0 人收藏 0 人点赞
#constrained-decoding

生成式编译:AI生成代码时的即时编译器反馈

Hugging Face Daily Papers · 2026-07-15 缓存

本文介绍了生成式编译,一种在AI生成代码过程中获取部分程序编译器反馈的方法,利用“sealor”变换使得标准编译器能够诊断不完整的代码。在Rust编码任务上的评估表明,该方法通过及早捕获错误,减少了无法编译的输出并提高了功能正确性。

0 人收藏 0 人点赞
#constrained-decoding

FlashTrie:一种用于生成式检索的GPU加速约束束搜索方法

arXiv cs.LG · 2026-07-14 缓存

FlashTrie提出了一种GPU加速的约束束搜索方法用于生成式检索,利用简洁的trie布局和协作式CUDA内核来降低解码延迟,实现大规模实时服务,在商业搜索引擎中实现了高达24倍的加速和0.71%的收入提升。

0 人收藏 0 人点赞
#constrained-decoding

形式化思维编织

arXiv cs.CL · 2026-06-25 缓存

形式化思维编织(WoFT)引入了一种针对代码生成的完备且可靠的约束解码器,该解码器能确保相对于完整的Tree-sitter规范保持语法有效性;同时提出一种微调方法,通过使用加权唤醒-睡眠算法训练模型将语法符号交织到生成过程中,从而改进Python代码生成的困惑度。

0 人收藏 0 人点赞
#constrained-decoding

EPIC: 在上下文无关文法约束下的扩散语言模型高效并行推理

arXiv cs.CL · 2026-06-02 缓存

本文介绍了EPIC,一个用于扩散语言模型中上下文无关文法约束解码的高效框架,在保持语法正确性的同时,将推理时间最多减少67.5%。

0 人收藏 0 人点赞
#constrained-decoding

思考先于约束:面向大型语言模型的统一解码框架

Hugging Face Daily Papers · 2026-05-28 缓存

提出了一种名为 In-Writing 的新型混合解码框架,该框架在触发词之后才施加约束,将自由形式推理与结构化生成相结合,从而在分类和推理任务中提升准确性。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈