标签
PRISM introduces a theory for designing reference processes in Schrödinger bridge models, showing that under finite computational budgets the optimal reference noise spectrum is determined by the sensor's information destruction spectrum. Experiments confirm the theory in Gaussian settings and identify where real images deviate.
本文证明,在广泛的人工神经网络类别中,推理逻辑可以被重新表述为稀疏符号交互,并得到数学判据和大量实验的支持,为可解释性和泛化性提供了新颖的见解。
This paper presents a multiscale reward hedging method for learning from correct demonstrations, extending guarantees to continuous reward classes with a horizon-free bound via metric entropy, and shows polynomial-time cases for specific settings.
本文分析了自注意力模型中查询-键回路和输出-值回路的参数化如何影响训练过程中的注意力锐度。通过梯度流分析,作者表明,相对于输出-值学习,更快的查询-键学习会产生更锐利的注意力,从而提高可解释性,同时不牺牲预测性能。
本文介绍了一种简单的基于 Dirichlet 的预测器,它实现了最优的同步多类 U 校准率,弥补了有界真损失遗憾界中已知的维度差距,并消除了光滑损失的额外加性项。
作者描述了连续七天使用 AI 模型 GPT 5.6 Sol 和 Fable 5 解决无线通信理论中一个 25 年悬而未决的问题,并指出验证是最大的瓶颈。
论文提出了一个平均场框架,将大语言模型中的思维链推理建模为线索图上的引导式发现过程,推导出已发现线索比例的常微分方程,并通过实验进行了验证。
本文介绍了关系响应场(RRF),这是一个理论框架,用于确定黑盒LLM响应在损坏情况下何时可以被可靠恢复,并建立了将响应一致性与真实性区分开的可辨识性条件和极小极大界。
本文为次优势(极小极大)超度量发展了一套 ℓ0 型稳定性理论,证明了稀疏编辑仅通过最小生成树传播,并导出了变更超度量条目的 Hamming-Lipschitz 界。在深度嵌入图和聚类任务上的实验表明,所得结构评分作为脆弱性诊断具有实用价值。
这篇理论论文提出了一种驱动成核速率定律,用于解释语言模型中的能力涌现、可塑性丧失和电路控制,并通过在Pythia和一个受控的门控注意力模型上的实验加以支持。
这是一个讨论话题,要求提出反对语言模型仅仅是下一个词预测器这一观点的最佳论点,反映了关于人工智能认知的持续辩论。
这篇来自 SenTeGuard 的博客文章讨论了 LLM 智能的理论极限,引用哥德尔不完备定理论证当前 AI 架构无法实现通用的人类级推理。
本文提出了自适应分布外检测中自我毒化的理论框架,证明了崩溃的尖锐阈值以及一种切断反馈回路的有保证的无标签校准方法。同时,提供了关于在无标签情况下区分漂移与污染的不可能性结果。
本文介绍了“信息阴影”概念——即语言模型从文本中学习时面临的结构性限制,这些限制不随规模、数据或架构改变而改变。它识别了三种不同类型的限制,并提供了检测这些限制的探针,对基准设计和能力审计具有启示意义。
本文分析了平坦最小值附近固定步长SGD的缩放极限,表明对于平坦度指数m≥2的目标函数,不变分布集中在尺度α^(1/m)上,且当m>2时收敛到非高斯平稳分布。
本文解释了有限状态机的概念、其正式定义,以及为何它们是构建可靠系统的强大抽象,包括它们与当前代理框架的关系。
来自Bridgewater AIA Labs、UIUC和MIT的研究人员证明了首个针对使用RLVR训练的推理LLM的非平凡泛化界,为未见数据提供可证明的准确率下界,以指导安全部署。
本文研究了鲁棒峰值成本约束强化学习,通过控制轨迹上的最大成本并考虑动态不确定性来解决标准CMDP的局限性。作者表明零对偶间隙可能不成立,并提出了一种基于鲁棒值估计的替代优化框架。