标签
ReLTEx是一个基于LLM的可靠分类法扩展框架,它将LLM驱动的候选生成与结构感知验证及递归扩展控制相结合,以减少幻觉并提高一致性。在基准分类法上的实验表明,它能够产生更可靠且语义连贯的扩展。
本文介绍了层次化领域泛化,将有限观测区域外推至整个实例空间的形式化。结果表明,无论假设类多么简单,某些领域划分都会使泛化无法实现,并认为现代泛化理论必须将领域结构作为首要因素纳入考量。
本文提出了一种受LAD启发的预预训练方法,使用一种名为MP-Struct的形式语言,该语言编码了类自然语言结构。研究表明,这种方法提高了token效率,并赋予了模型类似人类的对结构不合理语言的抵抗力,挑战了先前关于有效预预训练语言的假设。