标签
本文介绍了一个案例研究:一位数学家在Lean证明助手中指导AI对Vlasov方程的平均场推导进行形式化,并将此过程视为一种策略游戏。该形式化工作约在一个月内完成,AI在人类的指导下执行证明。
本文提出了一种平均场理论,将dropout视为神经网络混沌边缘的微扰,推导出相关性衰减的缩放定律,并为平滑激活函数和类ReLU激活函数建立了不同的普适类。此外,该理论还得到了最优的dropout调度,可在不增加计算成本的情况下降低测试损失。
本文介绍了 MEMOA,这是一种针对大规模在线智能体的去中心化策略。该策略通过平均场纳什均衡实现最优性,在超越贪婪基线的同时,比中心化方法具有更好的扩展性。