foundation-models

标签

Cards List
#foundation-models

QUAL:分位数对齐提升时间序列基础模型的零样本性能

arXiv cs.AI ↗ · 2026-11-02 缓存

该论文提出了 QUAL,这是一种无需标签的框架,利用模型池作为概率参考,对齐时间序列基础模型的分位数,然后采用 Huber 聚合进行稳健的零样本预测,在 GIFT-Eval 上相较于成员模型的平均表现,将 MASE 降低了 7.4%,CRPS 降低了 9.8%。

0 人收藏 0 人点赞
#foundation-models

CAMEL:面向超轻量级视网膜基础模型的跨架构掩码嵌入学习

arXiv cs.LG ↗ · 2026-11-02 缓存

CAMEL 提出了一种采用非对称掩码策略的跨架构蒸馏框架,将 RETFound 等大型视网膜基础模型的知识迁移到超轻量级学生模型,在保持准确性的同时大幅降低计算成本,以便在资源受限的临床环境中部署。

0 人收藏 0 人点赞
#foundation-models

理解与构建具备“任意任务推理”能力的基础模型的理论框架

arXiv cs.LG ↗ · 2026-11-02 缓存

本文提供了一个形式化的数学框架,用于定义具备零样本能力的“任意任务推理”基础模型,通过通用任务归约将其分解为编码器、模型和解码器组件,并将误差分为设计误差和实际模型误差两类,辅以五个真实世界的示例加以说明。

0 人收藏 0 人点赞
#foundation-models

@alacheng: 近几天最值得看的论文,把预训练、中间训练和后训练用一个算法统一起来了的架构!!!

X AI KOLs Timeline ↗ · 2026-11-02 缓存

一篇近期值得关注的论文提出了「统一训练」(unified training)算法,将预训练、中间训练和后训练整合进单一算法流程,从而简化基础设施并为更好的科学研究提供框架。

0 人收藏 0 人点赞
#foundation-models

@omarsar0:强烈推荐 CMU 等机构的论文,讲基础模型是如何训练的。它从根本上提出一个问题:预训练是否真的…

X AI KOLs Timeline ↗ · 2026-10-31 缓存

一篇由 CMU 主导的论文提出了“统一训练”(unified training),表明预训练、中期训练(midtraining)、SFT 和强化学习可以被统一为一个基于似然的算法,其中 RL 目标被视作对模型生成目标的最大似然拟合;在多项准确率-计算量以及持续学习实验中,该方法优于分阶段训练。

0 人收藏 0 人点赞
#foundation-models

BridgeRouter:跨模态桥接组合上的增益感知实例路由

arXiv cs.AI ↗ · 2026-10-31 缓存

BridgeRouter 将多桥跨模态迁移建模为实例级算法选择问题,通过增益感知的轻量路由器在冻结的 EEG 基础模型桥路径间进行推理时路由,在 FOG 和 ISRUC 数据集上显著优于单一最佳桥路径。

0 人收藏 0 人点赞
#foundation-models

🚀 OpenEBFM:能量模型能否扩展为基础模型?代码与权重已发布

Reddit r/LocalLLaMA ↗ · 2026-10-30

OpenEBFM 引入了基于能量的基础模型,将生成过程分为能量引导和词元生成两个部分。在参数规模最高达 10 亿的情况下,与配置相当的 GPT 基线模型相比,这些模型在数据量、参数量和计算量方面展现出更好的扩展性。完整代码、模型检查点和 EBFM 聊天机器人均已开源。

0 人收藏 0 人点赞
#foundation-models

使用单一算法训练基础模型

Hugging Face Daily Papers ↗ · 2026-10-29 缓存

一篇将基础模型的各训练阶段(预训练、中期训练、监督微调、强化学习)统一到单一基于似然的算法下的论文。该算法融合静态数据与强化学习生成内容,改善了准确率与计算量之间的权衡,并增强了能力保留。

0 人收藏 0 人点赞
#foundation-models

@_albertgu:我一直相信,智能应当源自简单、通用的构建模块,它们能直接从原始数据中学习自身的抽象……

X AI KOLs Following ↗ · 2026-10-28 缓存

Albert Gu 宣布了 hierarchical networks (H-Nets) 的新版本,在 scaling law 受控实验中实现了 3-5 倍的效率提升,用大约 10 倍更少的数据和计算量匹敌一个在 11T tokens 上训练的开源模型,这是迈向从原始字节端到端学习的重要一步。

0 人收藏 0 人点赞
#foundation-models

哪些信息被延续?各语言模型版本间的预训练信息披露

arXiv cs.CL ↗ · 2026-10-28 缓存

Rutgers 的研究人员对来自 17 个语言模型系列的 41 个模型条目进行了审计,使用了 2025 年基础模型透明度指数中的 24 项预训练指标,发现后续版本并未始终延续早期版本的预训练信息披露,而看似稳定的得分往往掩盖了相互抵消的增减变化。

0 人收藏 0 人点赞
#foundation-models

低成本 LoRA:面向适配器集群的功能感知事后压缩

arXiv cs.AI ↗ · 2026-10-28

一篇新的 arXiv 论文提出了功能秩分配(FRA),这是一种无需标注的方法,通过功能秩失真前沿和共享秩预算下的适配器群级极小极大分配,压缩大规模 LoRA 适配器群。在来自三个公开适配器群的 78 个适配器上,该方法相较于均匀谱压缩,提升了最坏情况和尾部效用。

0 人收藏 0 人点赞
#foundation-models

EEG基础模型的受控评估:随机初始化、频带功率与基于验证集选择的探针

arXiv cs.LG ↗ · 2026-10-27 缓存

对五个公开的 EEG 基础模型和一个内部开发的 JEPA 风格模型进行的受控评估表明,随机初始化、频带功率基线以及通过验证集选择的探测层,会显著改变在睡眠、情绪和运动想象基准测试中报告的预训练增益。

0 人收藏 0 人点赞
#foundation-models

超越局部精度:偏微分方程基础模型的滚动预测可靠性基准评估

arXiv cs.LG ↗ · 2026-10-27 缓存

本文在七个二维时变偏微分方程数据集上,对七个偏微分方程基础模型的滚动预测可靠性进行了基准评测。结果表明,尽管经过微调的基础模型在短期预测中往往优于从头训练的基线模型,但全时域滚动预测存在显著的误差放大现象(中位数为2.04倍),因此主张未来的基准评测应按预测时域分别报告结果。

0 人收藏 0 人点赞
#foundation-models

预测关联,而非干预:对协变量感知时间序列基础模型的预注册因果审计

arXiv cs.LG ↗ · 2026-10-27 缓存

一项预注册的因果审计发现,能够感知协变量的时间序列基础模型(Chronos-2、TiRex-2、TabPFN-TS、TimesFM-2.5)预测的是关联,而非干预效应;研究推导出的混杂差距可通过使用 LoRA 适配器进行简短的干预式后训练,最多缩小 83%。

0 人收藏 0 人点赞
#foundation-models

工作智能体:系统、能力与优化

Papers with Code Trending ↗ · 2026-10-26 缓存

该论文提出了一个统一的"工作智能体"(work agents)框架,将基础模型与运行时框架结合以可靠执行复杂数字任务,引入持久性与开放性两个维度,并系统分析能力族、模型与框架优化及评估方法。

0 人收藏 0 人点赞
#foundation-models

@heyshrutimishra:SenseNova-RoboRSI 说明了为什么对于具身智能来说,仅靠强大的基准测试分数是不够的。真实机器人面临碰撞、过热……

X AI KOLs Following ↗ · 2026-10-22 缓存

一份对 GPT-6-Astra 在 12 项具身智能基准上的评估技术报告发现,该模型在操作和导航方面取得了前所未有的性能,但同时也揭示了巨大差距——高昂的演示成本、物理约束以及不可逆的故障——这些因素阻碍了其在现实世界中的可靠部署。

0 人收藏 0 人点赞
#foundation-models

从天气到增强风化:面向业务化规模碳去除的天气基础模型

arXiv cs.LG ↗ · 2026-10-22 缓存

本文评估了五个天气基础模型作为冻结编码器在增强岩石风化(ERW)碳去除量化中的迁移能力,其中基于 Aurora 1.5 构建的 TerraNova-ERW 在未见农田上表现最佳,支持少样本预测并可显著减少土壤采样需求。

0 人收藏 0 人点赞
#foundation-models

@PyTorch:Cohere 的 Rachad Alao(@cohere)探讨开放科学如何在 #PyTorchCon 2026 上助力透明且安全的 AI 基础模型开发

X AI KOLs Timeline ↗ · 2026-10-21 缓存

Cohere 的 Rachad Alao 在 PyTorchCon 2026 上发表演讲,探讨开放科学如何推动透明且安全的 AI 基础模型开发,倡导开放架构、独立审计以及 PyTorch、TorchTitan 和 vLLM 等工具的应用。

0 人收藏 0 人点赞
#foundation-models

@levie:很酷的是,我们已经明显看到一种新兴形态,预示着 AI 在可预见的未来可能呈现的样子,作为自主……

X AI KOLs Following ↗ · 2026-10-21 缓存

Aaron Levie 认为,自主、领域专用的智能体(agent)正成为 AI 的新兴形态,其驱动力来自更强的工具与计算机使用能力、不断提升的模型能力,以及成熟的智能体框架(harness)和基础设施——这使它们远超简单的 LLM 包装器,成为企业工作流的一大飞跃。

0 人收藏 0 人点赞
#foundation-models

面向本体无关电子病历建模的离散神经中间语言

arXiv cs.CL ↗ · 2026-10-21 缓存

论文提出 Mediator——一种离散、本体无关的 EHR 分词器,可将任意临床概念映射到共享的向量量化码本,使封闭词汇模型可迁移至 eICU,零样本任务的 AUPRC 相对提升 29%。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈