标签
本文提出了一种通用的神经符号推理与学习方法,将答案集编程与基于能量的模型框架进行模块化集成,支持连续潜空间中的联合优化和端到端训练。并在MNIST、CLEVR和MOT基准测试上展示了其应用。
本文将模型合并视为在专家乘积场景下的概率推断,表明现有方法是其特例,并提出一种重尾柯西专家设计,能更准确地捕捉实际残差行为,在多个任务和架构上相对于现有最优基线取得了显著改进。
本文提出一种五臂消融方法论,用于诊断检索预热能量基推理(RW-EBR)中哪个组件驱动性能提升,应用于图可达性和数独等结构推理任务。该方法分离了类先验偏差、随机预热启动和图对齐值重用三种效应的影响。
本文将均衡传播扩展到斜梯度系统,并展示了深度能量模型与哈密顿神经网络之间的等价性,重点关注扩散耦合的Fitzhugh-Nagumo神经元。它还推导了此类网络中用于推理的逐层哈密顿递归关系。
Aleph 是一个新型形式化推理AI系统,在主要基准测试中领先,证实了 Yann LeCun 对基于能量模型(EBM)的AI推理的强调。
本文介绍了 SentinelMesh,这是一个利用基于能量的模型(EBMs)和 TAME 治理来实现大规模事件响应的自主安全系统,并论证了在威胁建模方面,基于物理的方法优于大型语言模型(LLMs)。
本文介绍了 FedeKD,这是一种用于联邦知识蒸馏的可靠性感知框架,采用基于能量的门控机制来缓解非同质化设置下的负迁移问题。作者证明,基于样本级信任度对知识传输进行加权,可以在无需公共数据集的情况下提高鲁棒性和预测性能。
OpenAI 提出了基于能量的模型 (EBM) 的隐式生成和泛化方法,该方法使用 Langevin 动力学进行迭代优化以生成样本,无需显式生成器网络。该方法具有多个优势,包括自适应计算时间、学习不连通数据模式的灵活性,以及通过专家乘积实现的内置组合性。
本文建立了生成对抗网络 (GAN)、逆强化学习 (IRL) 和基于能量的模型 (EBM) 之间的数学等价性,证明了某些 IRL 方法等价于具有可评估生成器密度的 GAN。这项工作连接了三个研究社区,促进知识转移,有助于开发更稳定和可扩展的算法。