训练、学习和推断:神经系统的统一动力学
摘要
本文提出了一种统一的动力学框架,用于神经系统的训练、学习和推断。
arXiv:2608.20965v1 公告类型:新
摘要:我们定义了一个原子生成事实 f=(u,tau,omega,z;rho),记录了起源、实现的转换、具体发生、生成结果和关系角色。将这些事实编译成生成事实图(GFG),提供了AI原生的、可编译的科学事实基底,保留了生成历史。我们建立了一个基于GFG的递归科学过程,其中分析、干预、重放和验证形成后续周期的事实。使用nanoGPT,我们建立了统一的训练-学习动力学。训练是具有状态和记忆的参数-优化器系统的演化:每个实际的训练动作进入接收状态,并产生有限幅度的非线性功能响应,该响应由该状态和目标特定的更新几何所条件化。学习是这些响应对分布式功能支持的持续重组;当目标特定状态相对于其读出边界进行评估时,能力形成、维持、下降或恢复变得可观察。三个主要坐标——目标边界状态、目标特定更新几何和参数-Adam接收状态——产生一个二阶预测器,在更新后输出被读取之前运行。在留出运行中,它在四个转换上达到了91.43%的准确率和91.49%的宏平均召回率。我们进一步将推断建立为训练-学习动力学的冻结投影。组件门控和回滚显示了因果招募和查询条件支持的非加性组合,这些支持在训练期间形成,推导出由Attention实现的组织条件。受控反馈表明可能的双刃强化效应。ResNet/CIFAR-100和扩散/CIFAR-10实验证实了接收状态条件化的响应、持续支持重组和超出nanoGPT的冻结推断投影。
查看缓存全文
缓存时间: 2026/08/24 04:34
# 神经系统的训练、学习与推理:统一动态机制 来源:https://arxiv.org/abs/2608.20965 文献工具 ## 文献与引文工具 文献浏览器开关 代码、数据、媒体 ## 与本文关联的代码、数据及媒体 演示示例 ## 演示示例 相关论文 ## 推荐与检索工具 IArxiv推荐器开关 关于arXivLabs ## arXivLabs:与社区协作者共同探索的实验性项目 arXivLabs是一个框架,允许协作者直接在我们的网站上开发和分享新的arXiv功能。 所有使用arXivLabs的个人与组织都认同并接纳我们关于开放、社区、卓越与用户数据隐私的价值观。arXiv致力于践行这些价值观,并仅与遵循相同价值观的合作伙伴开展协作。 有能为arXiv社区创造价值的项目创意?**了解更多关于arXivLabs的信息** (https://info.arxiv.org/labs/index.html)。
相似文章
循环神经网络中学习诱导的动力学转变
本文提出了一种用于循环神经网络中学习诱导转变的动力学平均场理论,展示了反馈驱动的学习如何将网络动力学从混沌转变为稳定。
用于动力系统重构的循环神经网络的时间并行训练
本文研究了用于动力系统重构中训练循环神经网络的时间并行算法,提出了GTF-DEER,它能够在长序列上实现稳定学习,并提高重构精度。
单一神经回路统一多维预测
东京大学研究人员在《Communications Biology》上发表了一种具有生物学合理性的循环脉冲神经网络,利用局部学习规则,在单一种群神经元中同时预测事件的身份、时间与概率,并能快速适应环境变化,为神经形态计算提供了设计蓝图。
用于从网络系统扰动时间序列进行物理信息结构推断的基本动力学单元
本文引入了基本动力学单元(FDUs)作为可组合的基元,用于网络动力学系统中的物理信息结构推断,利用神经常微分方程(ODEs)从扰动时间序列数据中恢复交互结构。
用于动力系统零样本重构的极简可解释架构 [R]
一篇 NeurIPS 2026 论文提出了 DynaBase——一个用于动力系统零样本重构的极简可解释架构,仅由一个单参数分段仿射映射和一个上下文选择器构成。尽管结构如此简单,它在长期统计特性和短期预测方面却超越了主流的时间序列与动力系统基础模型,并为分析此类模型提供了可处理的数学基础。