predictive-coding

标签

Cards List
#predictive-coding

从S3Q理论到实现:迈向机器质感的架构

arXiv cs.AI ↗ · 2天前 缓存

论文提出了一种针对机器意识S3Q理论的五层实现架构,将已发表的计算原语组合成流水线,以实现同时满足质感的情境性、模拟和结构性一致条件。

0 人收藏 0 人点赞
#predictive-coding

反向传播的替代方案:Augmented Lagrangian Predictive Coding

Hacker News Top ↗ · 2026-09-14 缓存

PC-ALM 是一种局部训练方法,通过层局部动态系统传播监督信用,使得训练多达1000层的网络无需反向传播成为可能,同时性能几乎与反向传播相当。

0 人收藏 0 人点赞
#predictive-coding

Deepity: 一个C++库,展示预测编码网络可以媲美反向传播(在60秒内MNIST上达到97.73%) [P]

Reddit r/MachineLearning ↗ · 2026-09-02

Deepity C++库实现了优化的预测编码网络,以在MNIST上实现接近反向传播的性能,准确率为97.73%,耗时59.5秒。

0 人收藏 0 人点赞
#predictive-coding

权重反馈在现代深度网络中局部计算Jacobian转置

arXiv cs.LG ↗ · 2026-07-16 缓存

本文证明现代深度网络中预测编码(PC)使用的Jacobian转置乘积可以分解为局部可用的项,从而消除了自动求导反向传播的需要。提出的WF-Act-PC方法在CIFAR-10/100和Tiny-ImageNet上匹配甚至超越经过调优的反向传播基线,且性能随深度增加而提升。

0 人收藏 0 人点赞
#predictive-coding

@InnocFrancesco:对局部学习算法感兴趣吗?在 #ICML2026 接收的工作中,我们展示了预测编码计算出的...

X AI KOLs Timeline ↗ · 2026-07-08 缓存

本文展示了在宽度远大于深度的极限情况下,预测编码网络计算出与反向传播相同的梯度,从而在生物学习与标准神经网络训练之间架起桥梁。

0 人收藏 0 人点赞
#predictive-coding

从预测到自我:最小神经系统中能动性的发展条件

arXiv cs.LG ↗ · 2026-06-05 缓存

本文研究了最小预测性神经系统(一个192维GRU)能够区分自我引起的变化与世界引起的变化的发展条件,识别了能动性的四个必要条件,并引入了一个称为能动性增益的度量。

0 人收藏 0 人点赞
#predictive-coding

反向传播在一个epoch内摧毁V1脑对齐,追踪BP、FA、预测编码和STDP训练过程中RSA与fMRI的对齐 [R]

Reddit r/MachineLearning ↗ · 2026-06-02

本文追踪了不同学习规则(反向传播、反馈对齐、预测编码、STDP)在训练过程中如何影响CNN表征与人类fMRI的对齐。研究发现反向传播在一个epoch内摧毁V1对齐,而局部规则则保持该对齐,这表明构建高级表征与保留早期视觉特征之间存在权衡。

0 人收藏 0 人点赞
#predictive-coding

监督训练在多种生物合理学习规则下迅速降低早期视觉皮层对齐度

arXiv cs.LG ↗ · 2026-06-01 缓存

本文追踪了使用不同学习规则(反向传播、反馈对齐、预测编码、STDP)的监督训练如何降低神经网络表征与早期视觉皮层fMRI数据之间的对齐度,发现未训练的网络在V1对齐度上通常达到或超过训练后的网络。

0 人收藏 0 人点赞
#predictive-coding

AdaCodec:面向视频多模态大模型的预测性视觉编码

Hugging Face Daily Papers ↗ · 2026-06-01 缓存

AdaCodec 通过仅在场景预测失败时传输完整视觉标记,否则使用紧凑的帧间变化描述,从而减少多模态大模型中的视频编码冗余。在匹配的标记预算下,它优于逐帧 RGB 基线,并且在使用显著更少标记的情况下取得更好或相当的结果,将首令牌延迟从 9.26 秒降至 1.62 秒。

0 人收藏 0 人点赞
#predictive-coding

通过分层高斯滤波器的闭式预测编码

arXiv cs.LG ↗ · 2026-05-21 缓存

本文介绍了通过分层高斯滤波器实现的闭式预测编码,该编码恢复了精度加权的预测误差,从而在没有全局误差信号的情况下实现更快、更高效的训练,并在某些任务上优于反向传播。

0 人收藏 0 人点赞
#predictive-coding

Swift Sampling:通过泰勒级数选择时间惊喜

Hugging Face Daily Papers ↗ · 2026-05-21 缓存

Swift Sampling 是一种无需训练的视频帧选择算法,利用泰勒展开检测长视频中的高信息量时刻。通过识别实际视觉特征与预测特征轨迹的偏差,该算法在视频问答任务中能以极低计算开销提升准确率。

0 人收藏 0 人点赞
#predictive-coding

无反向传播的Pong:PC + 分布式赫布可塑性 vs. PPO:57% vs. 59%,约1500行从零开始 [P]

Reddit r/MachineLearning ↗ · 2026-05-19

探索一个生物合理的赫布智能体在Pong游戏中能多接近PPO,发现仅有2%的差距,但指出自对弈下的灾难性遗忘是关键瓶颈。

0 人收藏 0 人点赞
#predictive-coding

RoboMemArena:一个全面且具挑战性的机器人记忆基准测试

Hugging Face Daily Papers ↗ · 2026-05-11 缓存

RoboMemArena 推出了一项大规模基准测试,旨在通过现实世界验证评估涵盖 26 个复杂任务的机器人记忆能力,并提出了 PrediMem,这是一种利用预测编码优化记忆管理的双系统视觉 - 语言 - 动作模型。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈