标签
本文提出了一套数学理论,解释了为何 Anthropic 的雅可比透镜(J-lens)会优先检测到大语言模型隐藏状态中的相干特征——即占主导地位、空间上相干的李雅普诺夫模态,并在贝叶斯滤波器和简化 Transformer 模型上验证了该分析,同时提出了一族侧重不同时间尺度的 ω-J 透镜。
该论文提出了VideoLoop,一个具有循环工作记忆的多模态智能体,以解决长视频理解中的语义抖动问题,并在VideoMME等基准测试中展示了性能提升。
本文介绍了可回答工作记忆(AWM)和AWM-GRPO,以增强长文档VQA代理中终端工作记忆的质量,提高准确性并减少记忆问题。
文章认为,AI在数学领域的成功可能源于其庞大的工作记忆(上下文窗口),而非更优越的推理能力,并将此与人类认知局限性进行了对比。
介绍了Dendritron,一种替代Perceptron的模型,可以为冻结权重的Transformer模型添加内部记忆和持续学习能力,并提供了开源代码。
本文识别了语言智能体在执行多跳推理时的关键失败模式——“上下文稀释”,并引入了SLEUTH,一种明确追踪已确认事实、活跃假设和开放性问题的认知工作记忆,在多个基准测试中展现出持续的性能提升。
本文探讨了工作记忆与意识之间的联系,讨论了工作记忆的局限性以及'doorway effect'如何可能促成我们的意识体验。
一位前谷歌工程师在12分钟内解释了AI智能体记忆架构,涵盖工作记忆和三个记忆层(程序性、语义、情景),并使用总结器防止令牌膨胀,类似于Claude所用的。
本文讨论了软件工程中的有限认知概念,强调了人类记忆和注意力的局限性,以及在这些限制下如何构建软件系统。
探讨了AI智能体记忆系统如何常常忽略工作记忆等关键认知过程,将其与顺行性遗忘症进行类比,并为更有效的解决方案提供设计指导。
关于设计能智能选择任务所需思考类型的AI代理的反思性讨论,提出受人类认知启发的任务分类、注意力和记忆管理控制层。
我现在开始觉得这是一种共同经历了。我认识的所有构建 agentic AI 的人,git 历史深处都藏着同样的悄悄话:那个让 agent 无人看管跑了一整个周末的经历、周一收到的账单、试图弄清楚它到底做了什么的取证工作。我的经历是两天内花了 400 多美元。我的 agent 对着同一个研究任务换着法子自言自语了 48 小时,结果什么都没产出。感觉就像被一个非常有礼貌的 Phi