大脑如何学习 [R]
摘要
本文提出了一个新皮层学习框架,满足计算、算法和实现三个层面的合理性标准,通过时间导数和皮层-丘脑回路实现基于错误驱动的预测学习,并指出了相对于反向传播的潜在改进。
摘要:要完整解释新皮层如何学习,必须满足三个标准:1. 计算层面,它必须近似于一种强大的通用学习算法,且已知能扩展到人类级别的智能;2. 算法层面,它必须能通过新皮层及相关脑结构中已知且成熟的神经回路实现;3. 实现层面,必须详细说明所有算法机制在神经化学层面如何运作。目前,只有一个框架能满足所有这些标准:基于时间导数的错误驱动预测学习,由皮层-丘脑回路驱动,并依赖竞争性激酶突触可塑性诱导机制。该框架已在使用脉冲神经元的 Axon 神经仿真平台中实现,并在多种具有挑战性的认知任务中展示了学习能力。[arxiv.org/abs/2606.08720](http://arxiv.org/abs/2606.08720) 类似的方法有望带来优于反向传播的成果,并显著缩短训练时间。
相似文章
[R] 我构建了一个像大脑一样学习的认知架构——无需反向传播、无需GPU、不会遗忘
介绍了一种新颖的认知架构,它无需反向传播、GPU或遗忘即可学习,模仿了生物学习方式。
@InnocFrancesco:对局部学习算法感兴趣吗?在 #ICML2026 接收的工作中,我们展示了预测编码计算出的...
本文展示了在宽度远大于深度的极限情况下,预测编码网络计算出与反向传播相同的梯度,从而在生物学习与标准神经网络训练之间架起桥梁。
赫布架构AI模型 [R]
一个业余项目展示了一种赫布架构AI模型,该模型避免使用反向传播和梯度,在CIFAR-10上训练50个周期,展现出涌现行为,如准确率下降后跳升以及在针对性损伤后的恢复。
Dale约束下深度网络中的学习
本文介绍了一种受生物学启发的神经架构,该架构遵循Dale约束——神经元和突触具有固定符号——同时仍支持使用非负误差信号和局部Hebbian更新的类反向传播学习,并在Tiny ImageNet上取得了性能提升。
@yoheinakajima: https://x.com/yoheinakajima/status/2081741659260477666
该线程探讨了大脑的双重记忆系统(海马体和新皮层)为构建长期运行的AI智能体提供的启示,指出智能体需要快速的情景捕获机制和缓慢的巩固机制来避免灾难性干扰,而不是仅仅依赖带有临时支撑结构的冻结模型。