标签
本文介绍了因果基础模型（CFMs），这是一种预训练的神经网络，能够使用上下文学习在新的数据集上估计因果量，而无需进行微调。
介绍了Xiaomi-TabLDM，一个表格基础模型，它利用合成数据和上下文学习实现卓越的预测精度，无需特定任务微调，并在多个基准测试中获得顶级排名。
本文对比了大语言模型中基于规则与基于示例的上下文学习，发现规则在各类任务中通常能带来更可靠的学习效果，并探讨了模型特性与任务特性对此的影响。
本文提出了保形相关性框架，该框架利用上下文学习和集成方法，在通过保形预测维持覆盖率保证的同时，提升自然语言处理任务的简洁性。
SALA 是一种语义感知逻辑对齐框架，通过自动学习特定任务的推理操作并使用动态时间规整进行灵活对齐，从而改进上下文学习中复杂推理的示例选择，性能优于现有方法。
本文研究了在细调下大型语言模型中注意力层级代理与行为表现之间的分离，揭示了仅凭注意力敏感性来诊断上下文学习能力并不可靠。
本文介绍了Causal Foundation Models，该模型利用预训练神经网络，通过上下文学习在不进行微调的情况下估计新数据集上的因果效应，为这一新兴领域提供了实用指南。
S1是一个通用的机器人基础模型，通过上下文学习从单个视频演示中学习复杂、长时间的任务，无需大量数据收集，即可实现灵活、稳健的性能。
ChorusTIC是一个用于多元时间序列分类的免训练基础模型，它利用上下文学习来处理异构通道配置，无需目标任务更新，在标准基准测试中展现出强大性能。
ICI-Time 是一个新颖的框架，它将时间序列预测重新定义为视觉修复任务，利用大型视觉模型实现无需微调或架构更改的适应性预测。
Zero-WAM 是一个因果视频-动作模型，通过基于上下文的人类视频指导，实现对未见过任务的零样本机器人操作，并利用 HumanGen 数据集和未来块预测目标来提高泛化能力。
S1 是一款全新的基础模型，能够从单一示例中学习，并从视频提示中执行10分钟的任务而无需微调，已在实时操作中展示。
Tydra 是一种混合 Transformer-SSM 架构，用于表格数据，与 TabPFN 相比，它减少了 30% 的推理时间，同时保持了相似的预测性能，并优于 Hydra。
RecPFN引入了一种先验拟合网络，用于序列推荐中的上下文学习，通过在合成点击流数据上预训练，在多个基准测试中实现了先进的零样本性能。
本文提出了LLM-Detector，这是一个利用大语言模型进行上下文学习的框架，用于执行表格异常检测，无需微调，在多个数据集上展示了相对于现有方法的持续改进。
本文介绍了BayesPrompt，一种贝叶斯方法，用于优化大型语言模型的提示，确保它们既高效又人类可读，而不像传统方法产生难以理解的伪提示。
本文提出了一种结构内化规则语言模型（SIRLM），旨在解决知识图谱推理中使用大语言模型时的推理证据感知漂移问题，通过耦合结构和参数知识来提高忠实性和有效性，实验表明其优于最先进的方法。
本文研究使用TabPFN模型的上下文学习，基于建成环境特征预测行动不便老年人的感知邻里步行性，性能优于基线模型，并采用SHAP-IQ进行交互分析。
本文提出FairTFM，一种将公平性约束融入表格基础模型的训练策略，通过上下文学习实现公平预测，无需针对特定任务的重新训练。
本文建立了偏序上上下文学习的理论框架，分析了可识别性、教学成本和表示限制，并基于精确完成三分类进行探讨。