theory

标签

Cards List
#theory

PRISM: Principled Reference Identification for Schrodinger Bridge Model

arXiv cs.LG ↗ · 2026-08-10 缓存

PRISM introduces a theory for designing reference processes in Schrödinger bridge models, showing that under finite computational budgets the optimal reference noise spectrum is determined by the sensor's information destruction spectrum. Experiments confirm the theory in Gaussian settings and identify where real images deviate.

0 人收藏 0 人点赞
#theory

人工神经网络中符号模式涌现的数学原理与实验发现

arXiv cs.LG ↗ · 2026-08-10 缓存

本文证明,在广泛的人工神经网络类别中,推理逻辑可以被重新表述为稀疏符号交互,并得到数学判据和大量实验的支持,为可解释性和泛化性提供了新颖的见解。

0 人收藏 0 人点赞
#theory

Multiscale Reward Hedging from Correct Demonstrations

arXiv cs.LG ↗ · 2026-08-10 缓存

This paper presents a multiscale reward hedging method for learning from correct demonstrations, extending guarantees to continuous reward classes with a horizon-free bound via metric entropy, and shows polynomial-time cases for specific settings.

0 人收藏 0 人点赞
#theory

更快的查询-键学习锐化自注意力模型中的注意力

arXiv cs.LG ↗ · 2026-08-10 缓存

本文分析了自注意力模型中查询-键回路和输出-值回路的参数化如何影响训练过程中的注意力锐度。通过梯度流分析,作者表明,相对于输出-值学习,更快的查询-键学习会产生更锐利的注意力,从而提高可解释性,同时不牺牲预测性能。

0 人收藏 0 人点赞
#theory

Dirichlet Follow-the-Leader 弥合了同步多类 U 校准中的差距

arXiv cs.LG ↗ · 2026-08-10 缓存

本文介绍了一种简单的基于 Dirichlet 的预测器,它实现了最优的同步多类 U 校准率,弥补了有界真损失遗憾界中已知的维度差距,并消除了光滑损失的额外加性项。

0 人收藏 0 人点赞
#theory

GPT 5.6 Sol 与 Fable 5 解决无线通信理论中一个 25 年的难题

Reddit r/singularity ↗ · 2026-08-08 缓存

作者描述了连续七天使用 AI 模型 GPT 5.6 Sol 和 Fable 5 解决无线通信理论中一个 25 年悬而未决的问题,并指出验证是最大的瓶颈。

0 人收藏 0 人点赞
#theory

大语言模型中思维链推理的平均场动力学

arXiv cs.CL ↗ · 2026-08-07 缓存

论文提出了一个平均场框架,将大语言模型中的思维链推理建模为线索图上的引导式发现过程,推导出已发现线索比例的常微分方程,并通过实验进行了验证。

0 人收藏 0 人点赞
#theory

关系响应场:黑盒LLM响应一致性与恢复的通用理论

arXiv cs.CL ↗ · 2026-08-06 缓存

本文介绍了关系响应场(RRF),这是一个理论框架,用于确定黑盒LLM响应在损坏情况下何时可以被可靠恢复,并建立了将响应一致性与真实性区分开的可辨识性条件和极小极大界。

0 人收藏 0 人点赞
#theory

关于次优势(极小极大)超度量的 Hamming-Lipschitz 型稳定性:理论与简单证明

arXiv cs.AI ↗ · 2026-08-06 缓存

本文为次优势(极小极大)超度量发展了一套 ℓ0 型稳定性理论,证明了稀疏编辑仅通过最小生成树传播,并导出了变更超度量条目的 Hamming-Lipschitz 界。在深度嵌入图和聚类任务上的实验表明,所得结构评分作为脆弱性诊断具有实用价值。

0 人收藏 0 人点赞
#theory

LLM词元生成的动力系统可区分性保证

arXiv cs.LG ↗ · 2026-08-03 缓存

本文通过将词元嵌入建模为动力系统的轨迹,为区分LLM响应提供了理论保证,证明了误分类概率的指数衰减,并刻画了跨嵌入泛化。

0 人收藏 0 人点赞
#theory

训练的动力学:语言模型中涌现、可塑性丧失与电路控制的驱动成核速率定律

arXiv cs.LG ↗ · 2026-07-31 缓存

这篇理论论文提出了一种驱动成核速率定律,用于解释语言模型中的能力涌现、可塑性丧失和电路控制,并通过在Pythia和一个受控的门控注意力模型上的实验加以支持。

0 人收藏 0 人点赞
#theory

关于“它只是一个下一个词预测器”的最佳反驳论点是什么?

Reddit r/singularity ↗ · 2026-07-29

这是一个讨论话题,要求提出反对语言模型仅仅是下一个词预测器这一观点的最佳论点,反映了关于人工智能认知的持续辩论。

0 人收藏 0 人点赞
#theory

哥德尔与 LLM 可达到智能的极限

Reddit r/ArtificialInteligence ↗ · 2026-07-28 缓存

这篇来自 SenTeGuard 的博客文章讨论了 LLM 智能的理论极限,引用哥德尔不完备定理论证当前 AI 架构无法实现通用的人类级推理。

0 人收藏 0 人点赞
#theory

自适应分布外检测中的自我毒化:尖锐阈值理论与有保证的无标签校准

arXiv cs.LG ↗ · 2026-07-27 缓存

本文提出了自适应分布外检测中自我毒化的理论框架,证明了崩溃的尖锐阈值以及一种切断反馈回路的有保证的无标签校准方法。同时,提供了关于在无标签情况下区分漂移与污染的不可能性结果。

0 人收藏 0 人点赞
#theory

迈向漏洞理论:意外之规则学

Hacker News Top ↗ · 2026-07-24

本文提出了一种通过'规则学'概念理解软件漏洞的新理论框架,可能借鉴了Stephen Wolfram的计算思维。

0 人收藏 0 人点赞
#theory

信息阴影:衡量语言模型可学习的结构性限制

arXiv cs.LG ↗ · 2026-07-22 缓存

本文介绍了“信息阴影”概念——即语言模型从文本中学习时面临的结构性限制,这些限制不随规模、数据或架构改变而改变。它识别了三种不同类型的限制,并提供了检测这些限制的探针,对基准设计和能力审计具有启示意义。

0 人收藏 0 人点赞
#theory

平坦最小值下固定步长SGD的缩放极限

arXiv cs.LG ↗ · 2026-07-21 缓存

本文分析了平坦最小值附近固定步长SGD的缩放极限,表明对于平坦度指数m≥2的目标函数,不变分布集中在尺度α^(1/m)上,且当m>2时收敛到非高斯平稳分布。

0 人收藏 0 人点赞
#theory

@TheVixhal: https://x.com/TheVixhal/status/2079274210367775052

X AI KOLs Timeline ↗ · 2026-07-20 缓存

本文解释了有限状态机的概念、其正式定义,以及为何它们是构建可靠系统的强大抽象,包括它们与当前代理框架的关系。

0 人收藏 0 人点赞
#theory

@ddkang:来自Bridgewater AIA Labs、UIUC和MIT的新研究:我们证明了我们认为的首个非平凡泛化…

X AI KOLs Timeline ↗ · 2026-07-20 缓存

来自Bridgewater AIA Labs、UIUC和MIT的研究人员证明了首个针对使用RLVR训练的推理LLM的非平凡泛化界,为未见数据提供可证明的准确率下界,以指导安全部署。

0 人收藏 0 人点赞
#theory

鲁棒峰值成本约束强化学习

arXiv cs.LG ↗ · 2026-07-20 缓存

本文研究了鲁棒峰值成本约束强化学习,通过控制轨迹上的最大成本并考虑动态不确定性来解决标准CMDP的局限性。作者表明零对偶间隙可能不成立,并提出了一种基于鲁棒值估计的替代优化框架。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈