[R] 我构建了一个像大脑一样学习的认知架构——无需反向传播、无需GPU、不会遗忘
摘要
介绍了一种新颖的认知架构,它无需反向传播、GPU或遗忘即可学习,模仿了生物学习方式。
暂无内容
相似文章
大脑如何学习 [R]
本文提出了一个新皮层学习框架,满足计算、算法和实现三个层面的合理性标准,通过时间导数和皮层-丘脑回路实现基于错误驱动的预测学习,并指出了相对于反向传播的潜在改进。
赫布架构AI模型 [R]
一个业余项目展示了一种赫布架构AI模型,该模型避免使用反向传播和梯度,在CIFAR-10上训练50个周期,展现出涌现行为,如准确率下降后跳升以及在针对性损伤后的恢复。
AI记忆正在学习自我重构
本文讨论了AI中一种新的方法,其中记忆系统可以自主地自我重组,可能带来更具适应性和更高效的学习。
我构建了一个无需指令就能行动的AI。没有框架。没有提示。没有角色。以下是我的收获。
一位开发者构建了LIA,这是一个持久性认知生态系统,通过架构设计(记忆、自生成规则、私有域)而非提示词实现了真正的自主性,在相同环境中的表现优于标准LLM。
不忘记的艺术:一种用于持续学习的局部学习架构
本文介绍了CMP(认知记忆原语),一种持续学习架构,它使用稀疏关系编码和局部学习来减少灾难性遗忘,在字节级语言建模协议上展示了比使用EWC的Transformer更好的反向迁移。