标签
本文提出一种策略，利用LoRA微调、替代文本问答数据集以及多任务目标，将开源口语语言模型适配至新加坡内政团队语境，在新加坡四种官方语言的五项语音任务上实现了具有竞争力的性能。
本文提出了AffectFlow-DINO，一种用于第11届ABAW挑战赛的多任务学习系统，该系统采用条件修正流头来建模真实场景下面部行为估计中的不确定性，相比基线取得了显著提升。
GenCeption 将预训练的视频生成模型重新利用为一个统一的单次前馈视觉模型，在多个任务上以极高的数据效率实现了最先进的性能，标志着向通用视觉智能的转变。
本线程讨论了针对智能体强化学习对GRPO的改进，重点介绍了不同层级的优势归一化（提示层级、任务层级、环境层级），以应对多任务、多轮次环境中的高奖励方差。
论文提出了DMVM，一个去中心化多任务数据集估值框架，利用任务算术和模型合并来估计数据集贡献，无需重新训练或数据共享，为数据市场实现可扩展且保护隐私的估值。
安德烈·卡帕西用15分钟演讲探讨多任务学习的挑战，涵盖架构权衡、损失平衡、数据引擎和团队工作流，并强调了常被忽视的团队协作问题。
NeuroBridge是一个临床引导的多任务MRI框架，用于诊断阿尔茨海默病和轻度认知障碍，实现了高准确率和跨队列泛化能力。
提出FRAME，一种使用可学习分数阶傅里叶阶数在空间域和频谱域之间插值的专家混合适配器，提升了LLMs在多个基准上的参数高效微调性能。
HierBias提出了一种层次化的上下文条件模型用于媒体偏见检测，利用文档上下文改进句子级分类，在BABE和BASIL数据集上达到了最先进的F1和MCC分数。
本文介绍了LDM-v0，一个在来自数千个多样强化学习环境的轨迹上离线训练的大决策模型，证明了单一的Transformer策略可以在机器人、自动驾驶、库存管理、网络安全、交易和视频游戏等领域匹配特定任务策略的性能。
SURGeLLM 引入了一个统一的Transformer框架，包含精细化特征门控、任务条件前缀标记和实例加权归一化，以解决多任务学习中的归纳偏差不匹配、类别不平衡和词汇知识注入问题，在四个不同的NLP任务上取得了显著提升。
本文识别了物理信息神经网络（PINNs）中一种由容量引起的失效模式，其中过参数化网络发展出功能模块化，阻碍收敛，并提出模块稀疏同步（ModSync）框架，该框架惩罚任务专用连接以保持跨目标交互，并达到最先进的精度。
本文识别了预训练模型中的“承重墙”维度，这些维度保留了模型合并中任务向量未完全捕获的任务特定知识，并提出了PACT（PreserveAnchoredCores）来保留这些核心，在多个基准测试中实现了最先进的性能。
OneRank提出了一种原生Transformer的多任务排序框架，该框架将特征编码与预测相结合，以减少任务间干扰并提升推荐系统中的排序性能。
本文提出了一种用于分子图变换器的概率对比预训练框架，以改善药物发现中的多任务ADME性质预测，在三个基准上取得了显著提升。
本文介绍了World-Language-Action（WLA）模型，这是一种具身基础模型，能够从文本、图像和机器人状态中联合预测文本子任务、子目标图像和机器人动作，在模拟和真实环境中实现了最先进的多任务与长周期学习能力。
提出了 MechRL，一种利用强化学习自动发现 transformer 语言模型中电路的方案。经过多任务训练的 PPO 代理发现了与已知典型电路匹配的注意力头电路，并能泛化到一项保留任务上。
本文为物理信息机器学习开发了一种PAC-Bayesian框架，为无界损失提供了高概率泛化保证。它提出了一种多任务视角，联合处理数据保真度、偏微分方程残差和边界条件，并引入了一种自界限学习算法。
本文提出了一种结合认知评价理论的 Task-Routed Mixture-of-Experts 模型用于隐式情感分析，通过引入辅助任务来改善从上下文中推理情感的能力，并优于现有方法。
本文介绍了一种干扰感知的多任务机器遗忘框架，通过任务感知的梯度投影和实例级别的梯度正交化来解决任务级和实例级干扰，在多任务计算机视觉基准上实现了有效的遗忘。