标签
该论文提出了 QUAL,这是一种无需标签的框架,利用模型池作为概率参考,对齐时间序列基础模型的分位数,然后采用 Huber 聚合进行稳健的零样本预测,在 GIFT-Eval 上相较于成员模型的平均表现,将 MASE 降低了 7.4%,CRPS 降低了 9.8%。
CAMEL 提出了一种采用非对称掩码策略的跨架构蒸馏框架,将 RETFound 等大型视网膜基础模型的知识迁移到超轻量级学生模型,在保持准确性的同时大幅降低计算成本,以便在资源受限的临床环境中部署。
本文提供了一个形式化的数学框架,用于定义具备零样本能力的“任意任务推理”基础模型,通过通用任务归约将其分解为编码器、模型和解码器组件,并将误差分为设计误差和实际模型误差两类,辅以五个真实世界的示例加以说明。
一篇近期值得关注的论文提出了「统一训练」(unified training)算法,将预训练、中间训练和后训练整合进单一算法流程,从而简化基础设施并为更好的科学研究提供框架。
一篇由 CMU 主导的论文提出了“统一训练”(unified training),表明预训练、中期训练(midtraining)、SFT 和强化学习可以被统一为一个基于似然的算法,其中 RL 目标被视作对模型生成目标的最大似然拟合;在多项准确率-计算量以及持续学习实验中,该方法优于分阶段训练。
BridgeRouter 将多桥跨模态迁移建模为实例级算法选择问题,通过增益感知的轻量路由器在冻结的 EEG 基础模型桥路径间进行推理时路由,在 FOG 和 ISRUC 数据集上显著优于单一最佳桥路径。
OpenEBFM 引入了基于能量的基础模型,将生成过程分为能量引导和词元生成两个部分。在参数规模最高达 10 亿的情况下,与配置相当的 GPT 基线模型相比,这些模型在数据量、参数量和计算量方面展现出更好的扩展性。完整代码、模型检查点和 EBFM 聊天机器人均已开源。
一篇将基础模型的各训练阶段(预训练、中期训练、监督微调、强化学习)统一到单一基于似然的算法下的论文。该算法融合静态数据与强化学习生成内容,改善了准确率与计算量之间的权衡,并增强了能力保留。
Albert Gu 宣布了 hierarchical networks (H-Nets) 的新版本,在 scaling law 受控实验中实现了 3-5 倍的效率提升,用大约 10 倍更少的数据和计算量匹敌一个在 11T tokens 上训练的开源模型,这是迈向从原始字节端到端学习的重要一步。
Rutgers 的研究人员对来自 17 个语言模型系列的 41 个模型条目进行了审计,使用了 2025 年基础模型透明度指数中的 24 项预训练指标,发现后续版本并未始终延续早期版本的预训练信息披露,而看似稳定的得分往往掩盖了相互抵消的增减变化。
一篇新的 arXiv 论文提出了功能秩分配(FRA),这是一种无需标注的方法,通过功能秩失真前沿和共享秩预算下的适配器群级极小极大分配,压缩大规模 LoRA 适配器群。在来自三个公开适配器群的 78 个适配器上,该方法相较于均匀谱压缩,提升了最坏情况和尾部效用。
对五个公开的 EEG 基础模型和一个内部开发的 JEPA 风格模型进行的受控评估表明,随机初始化、频带功率基线以及通过验证集选择的探测层,会显著改变在睡眠、情绪和运动想象基准测试中报告的预训练增益。
本文在七个二维时变偏微分方程数据集上,对七个偏微分方程基础模型的滚动预测可靠性进行了基准评测。结果表明,尽管经过微调的基础模型在短期预测中往往优于从头训练的基线模型,但全时域滚动预测存在显著的误差放大现象(中位数为2.04倍),因此主张未来的基准评测应按预测时域分别报告结果。
一项预注册的因果审计发现,能够感知协变量的时间序列基础模型(Chronos-2、TiRex-2、TabPFN-TS、TimesFM-2.5)预测的是关联,而非干预效应;研究推导出的混杂差距可通过使用 LoRA 适配器进行简短的干预式后训练,最多缩小 83%。
该论文提出了一个统一的"工作智能体"(work agents)框架,将基础模型与运行时框架结合以可靠执行复杂数字任务,引入持久性与开放性两个维度,并系统分析能力族、模型与框架优化及评估方法。
一份对 GPT-6-Astra 在 12 项具身智能基准上的评估技术报告发现,该模型在操作和导航方面取得了前所未有的性能,但同时也揭示了巨大差距——高昂的演示成本、物理约束以及不可逆的故障——这些因素阻碍了其在现实世界中的可靠部署。
本文评估了五个天气基础模型作为冻结编码器在增强岩石风化(ERW)碳去除量化中的迁移能力,其中基于 Aurora 1.5 构建的 TerraNova-ERW 在未见农田上表现最佳,支持少样本预测并可显著减少土壤采样需求。
Cohere 的 Rachad Alao 在 PyTorchCon 2026 上发表演讲,探讨开放科学如何推动透明且安全的 AI 基础模型开发,倡导开放架构、独立审计以及 PyTorch、TorchTitan 和 vLLM 等工具的应用。
Aaron Levie 认为,自主、领域专用的智能体(agent)正成为 AI 的新兴形态,其驱动力来自更强的工具与计算机使用能力、不断提升的模型能力,以及成熟的智能体框架(harness)和基础设施——这使它们远超简单的 LLM 包装器,成为企业工作流的一大飞跃。
论文提出 Mediator——一种离散、本体无关的 EHR 分词器,可将任意临床概念映射到共享的向量量化码本,使封闭词汇模型可迁移至 eICU,零样本任务的 AUPRC 相对提升 29%。