marginalization

本文研究了表格基础模型（TFMs）如 TabPFN、TabICL、TabDPT 和 TabFM 是否能够产生与任何联合分布一致的预测。结果表明，所有被评估的 TFM 在分类和回归任务中均违反了边际化一致性和分解一致性，从而对其贝叶斯推断的主张提出了质疑。

本文区分了语言建模中常被混淆的三个概率对象——完整条件语言过程、边际纯文本法则和模型诱导分布——并分析了下一个令牌预测有用的条件，将 RAG 和工具解释为条件充分性设备。