theory

本文探讨目标表示的句法和语义，分析其组合性在认知科学和人工智能中理性行为中的作用。

Paul Dirac 探讨了数学与物理学之间的深刻联系，强调了它们在科学框架中的相互依赖性。

作者宣布将在哈佛大学进行演讲，讨论世界模型、Le*家族，以及为何需要更多理论和数学来推进JEPAs。

本文通过从参数空间转向函数空间，开发了一个统计力学框架来分析深度神经网络中的学习动态，推导了精确的误差动态和涨落效应。

Bit Radix 理论认为，不同形式的智能，如人类和AI，可能具有根本上不同的认知方式，而非趋同，强调互补优势。该论文通过邀请读者使用AI工具测试该理论，促进开放批判性参与。

本文分析了Muon优化器中的有限Newton-Schulz迭代如何通过平滑极映射使非光滑非凸优化受益，提供了匹配最佳已知界限的收敛保证。

本文提出将'单元'作为机器学习中的显式原语，其中学习任务声明持久个体，而监督学习则特化为带有分词的单元条件响应法则。

这篇文章推测了即将发布的 GLM 5.3 权重，并提出 OxAlpha 可能是 GLM 的一个新模型变体。

这篇文章讨论了Julian Jaynes的理论，认为人类意识是近期才发展起来的，大约在3000年前由于大脑整合方式的转变而出现，并得到历史和神经学证据的支持。

本文建立了概率联合嵌入预测学习（JEPA）与隐马尔可夫模型（HMM）之间的理论联系，提供了状态空间解释，并引入了马尔可夫链JEPA以增强一致性。

文章探讨理论原则是否仍指导机器学习实践，强调许多曾被视为标准的理论如何被经验证据所挑战。

一篇综述论文，考察Transformer作为语言识别器的表达能力，运用电路复杂性的概念和方法将其与经典计算模型进行比较。

This paper introduces low interaction rank as a unified theoretical framework for multiplicative dual-encoder networks, covering approximation, sample complexity, normalization, and identifiability, with experiments on operator learning and CLIP models.

This paper proves that a single normalized nonnegative kernel-attention head requires exponentially many features to solve a simple Min-IP task on three-token sequences, whereas dense softmax attention solves it with constant temperature and m-dimensional scores, highlighting a fundamental expressive-power gap between kernel and full attention.

本文回顾了NLP中“视角”的概念，提出了沿特定性轴排列的视角相关概念层级，并展示了该层级如何帮助研究者选择恰当的操作化定义。

一篇理论论文，介绍了Decoupled Descent (DD)，一种训练方法，它利用近似消息传递（AMP）的Onsager修正来在梯度下降过程中强制训练误差与测试误差之间的渐近相等，从而可能实现更好的停止和超参数调整。

This paper studies the joint effect of memory width and batch depth in stochastic Lipschitz bandits, characterizing the minimax pseudo-regret tradeoff up to logarithmic factors and showing that state width and update depth are not interchangeable.

This paper studies the sample complexity of policy learning under the mu-resets interaction protocol in reinforcement learning, resolving a question about the role of policy realizability and showing horizon dependence is exponential under all-policy concentrability and sqrt-exponential under pushforward concentrability.

本文为平均奖励强化学习遗憾界引入了一种常数感知的比较协议，为通信MDP导出了显式的有限下界证书，并改进了已发表的系数。

PRISM introduces a theory for designing reference processes in Schrödinger bridge models, showing that under finite computational budgets the optimal reference noise spectrum is determined by the sensor's information destruction spectrum. Experiments confirm the theory in Gaussian settings and identify where real images deviate.