标签
本文引入了一种跨模型映射,用于认证必须在协变量偏移下同时满足自动化下限和风险上限的选择性预测器,推导了可行性边界和双资源样本复杂度权衡。
本文研究了动力系统辨识中的自适应对称性发现,表明已知对称性可缩短辨识所需的轨迹长度,并提出了一种从单条轨迹中学习未知对称群的方法,以达到与已知对称性情形相同的优化长度。
This paper studies the sample complexity of policy learning under the mu-resets interaction protocol in reinforcement learning, resolving a question about the role of policy realizability and showing horizon dependence is exponential under all-policy concentrability and sqrt-exponential under pushforward concentrability.
本文回答了Hanneke、Moran和Waknine提出的一个开放问题,证明了直接和的不可知PAC学习曲线并非仅由单实例学习曲线和因子数量决定,从而提供了一种速率分离。
本文研究了鲁棒平均奖励马尔可夫决策过程的样本复杂度,在总变差不确定集下通过插入式归约导出了极小极大最优学习率。
This paper studies the sample complexity of multicalibration for a sequence of properties that are sequentially identifiable, establishing matching upper and lower bounds up to logarithmic factors.
本文提出了一种无Hessian矩阵的基于超梯度的双层强化学习算法,实现了最先进的样本复杂度,并在收敛性分析中去除了PL条件假设。
本文提出了改进的算法用于学习截断布尔乘积分布,利用布尔函数分析中的影响力概念,实现了与未截断情况下的极小极大率相匹配的样本复杂度。
本文介绍了分级大型语言模型(GLLMs),这是一种代数框架,对 Transformer 表示施加层次化分级,理论上可提高语言层次结构的样本效率,同时保持推理复杂度不变。该框架提供了几何与信息论角度的论证,并概述了一种分级选择流程,该流程在配套手稿中得到验证。
介绍了一种名为VRDQ的分布式Q学习算法,用于在静态和时变网络上进行多智能体强化学习,该算法具有有限时间收敛保证,在样本复杂度上实现线性加速,且仅需Õ(1)次通信。
本文研究了基于噪声成对比较的固定置信度top-k识别问题,并开发了一种渐近最优算法,该算法最小化期望比较次数。
本文研究了固定置信度下的最佳臂识别问题,其中昂贵的奖励观测与来自生成模型的廉价但相关的代理分数配对。提出了PROBE算法,该算法使用控制变量调整和残差方差的上界证书,以实现接近神谕的样本复杂度。
本文提出一个噪声专家模型来解释离线与在线模仿学习之间的差距,表明从噪声轨迹中离线学习需要指数级样本复杂度,而在线策略蒸馏可实现多项式依赖。该分析引出一种替代损失函数,实验证实了理论发现。
本文开发了一个傅里叶分析框架,用于研究群不变性下的数据增强,表明部分增强可以在近似误差趋近于零的情况下实现与完全增强相同的极小极大速率,同时还证明了精确不变性需要全群平均。
本文证明,使用基于梯度的方法训练的两层神经网络能够实现学习高斯单指数模型的最优计算-统计权衡,对于所有生成指数,匹配SQ下界至多对数因子,并通过一种新颖的权重扰动技术扩展到稀疏设置。
本文为基于轨迹级结果监督的离线强化学习建立了统计理论,提出了OPAC算法,并刻画了在此类监督下何时能够实现高效学习,以及何时存在根本性障碍。
本文研究了平均奖励弱耦合MDP和休止臂赌博机学习中的样本复杂度,利用一种新颖的基于Lyapunov的分析框架,确立了具有多项式复杂度的有限样本PAC保证。
本文实证测量了等变性理论预测的对称性与数据交换速率,发现错误群对称约束具有实际危害,测试时轨道平均的数据增强与等变架构相匹配,而理论上 |G| 倍的样本复杂度降低仅得到弱证实,且置信区间较宽。该研究明确为探索性,未预先注册。
本文证明,对于具有隐藏结构的分层数据,通过预测潜在表示(如JEPA和data2vec等世界模型的做法)进行学习所需的数据量,远少于通过预测token(如LLMs的做法)进行学习,其差距呈指数级。
这项探索性研究通过受控的C_n对称任务,实证测量了等变性理论预测的对称性-数据交换率,发现错误群组约束反而有害,在测试时进行轨道平均的数据增强与等变模型完全匹配,且实证交换率大致与理论一致但统计上不具决定性。作者强调了该研究的探索性,并呼吁进行注册复制研究。