标签
推文重点介绍了经典AI教科书《Artificial Intelligence: A Modern Approach》的第四版,涵盖深度学习、迁移学习、多智能体系统、机器人技术和因果性,并附有亚马逊链接。
介绍了NEXUS,一个约300万参数的轻量级基础模型,在LHC对撞数据上进行预训练,展示了在引力波、洪水预测和神经活动等任务上的改进下游性能及跨域迁移能力。
本文研究是否可以通过将隐马尔可夫模型拟合到在连续时间窗口上训练的神经网络权重的轨迹,将随时间漂移的数据流划分为离散状态,结果表明恢复出的潜在状态与两个数据集上的迁移性能相关。
AgentGFM 提出了一种图基础模型,其中每个节点充当具有共享可训练策略的智能体,通过预测-行动-观察-修正过程实现自适应信息流控制。它在节点级、图级和大规模迁移任务中均取得了优异性能。
本文提出了一个用于攻击性语言检测中跨域和跨语言泛化的诊断与优化框架,将性能下降分解为数据集效应和语言效应,并量化了多语言能力与源任务性能之间的权衡。
介绍Building2Building(B2B),这是一个基于EnergyPlus构建、与Gymnasium兼容的大规模基准,用于研究强化学习中在真实HVAC控制环境下的泛化与迁移。
Inertia-1是一个研究项目,系统性地探索运动模型的完整生命周期——数据、感知、目标和规模——以产生一种统一的表示,该表示无需重新训练即可跨身体位置、设备和任务迁移,利用了在1800万小时加速度计数据上的自监督预训练。
提出PEACE框架,一种基于知识引导的框架,通过标签条件对比对齐将成人心电图解释迁移至儿科人群,在有限监督下取得显著改进。
本文介绍了一个框架,用于判断在持续学习中何时应该期待迁移,并提出了选择性回放迁移(TSR),该机制选择预计对当前任务有益的回放数据,而非不加区分地回放过去的示例。TSR在保持稳定性的同时改善了前向迁移,优于现有的回放基线。
提出了一种解耦训练策略,该策略适应归一化层并使用预计算特征来减少迁移学习中的开销,在显著缩短训练时间和降低能耗的同时,达到了有竞争力的准确率。
本文提出了两种混合持续学习方法——回放增强弹性权重巩固与约束引导知识蒸馏——用于调整预训练语音模型,以识别低资源澳大利亚土著语言,同时缓解灾难性遗忘。
本文研究了低资源自动语音识别(ASR)中跨语言迁移的问题,针对瓦尔皮里语提出了一种结合声学与语言特征的相似度框架,以选择最优源语言。实验表明,像阿萨姆语和印地语这样声学相似的语言能显著降低词错误率和字符错误率。
本文确定了两种结构机制,导致多任务高斯过程在贝叶斯优化迁移学习中错误估计跨任务相关性,即使对于仿射相关的任务也是如此。作者提出了三种保守的补救措施来缓解这些问题。
本文从范畴论视角深入探讨迁移学习,提出深度流形理论,认为神经网络通过无属性数值计算学习关系结构,从而实现跨领域迁移,并解释了分类的内在逻辑。
StepFM是一个基础模型,仅使用计步器数据进行广谱健康预测,为高频传感器模型提供了保护隐私且可扩展的替代方案。
LEMUR 2引入了一个大规模数据集,包含超过14,000种神经网络架构和750,000条训练记录,涵盖多模态任务,支持NAS、AutoML和部署分析。
本文提出一种源引导协议,其中LLM利用更强的同族源模型为弱目标模型生成候选修改方案,在CIFAR-10和SVHN基准测试上实现了显著的精度提升,同时解耦了迁移效应与适应效应。
本研究探讨了从僧伽罗语到迪维希语的跨语言迁移学习在自动语音识别中的应用,与仅使用迪维希语的基线相比,词错误率显著降低。
本文探讨了在使用冻结的预训练语言模型骨干时,显式域适应方法是否对情感迁移有益,发现其有效性取决于骨干是否已经拥有目标域知识。
本研究评估了九种心电图基础模型在Brugada综合征检测中的表现,发现预训练提供了优化稳定性,但未提供可迁移的临床知识,这对大规模预训练对罕见疾病有益这一假设提出了挑战。