@LiorOnAI:大型语言模型自发地发展出了与人类相同的专门化大脑区域,用于语言、数学、物理……
摘要
一篇预印本研究发现,大型语言模型自发地发展出了专门化的模块化大脑区域,用于语言、数学、物理和社会推理,这与人类大脑相似,表明智能系统设计中的趋同现象。
查看缓存全文
缓存时间: 2026/07/01 01:59
大型语言模型自发地发展出与人类用于语言、数学、物理和社交推理相同的专门化大脑区域。没有人设计过这一点。它就这样涌现出来。
两种完全不同的优化过程(生物进化 vs. 梯度下降)独立地得出了相同的解决方案。
Pengrui Han (Barry) (@pengrui_han): 人类大脑具有惊人的模块化结构,拥有用于语言、形式推理、社交推理和物理推理的独特网络。这是智能系统构建的基本原则,还是生物进化中的偶然现象?
在我们最新的预印本中,我们发现
相似文章
大语言模型中涌现模块化认知架构
本文研究模块化认知架构是否在大语言模型中涌现,发现大语言模型发展出专门化的神经网络,反映了人脑在认知领域的组织结构,表明模块化是智能系统的一个基本属性。
@AnthropicAI: 新的Anthropic研究:语言模型中的全局工作空间。在你大脑中当前发生的所有事情中,只有一小部分……
Anthropic的新研究发现语言模型中存在一个类似于人类大脑意识处理的'全局工作空间',发现了一个类似于意识和无意识思维的分界。
Brain Score 追踪语言的共享属性:来自多种自然语言和结构序列的证据
本文研究了 Brain Score(一个将语言模型表征与人类阅读时 fMRI 激活进行比较的指标)是否真正捕捉到类似人类的语言处理,或仅反映结构相似性。研究人员在多种自然语言和非语言结构数据(基因组、Python、嵌套括号)上训练语言模型,发现在不同语言和非语言序列上训练的模型达到相似的 Brain Score 性能,这表明该指标可能不足以区分人类特有的处理方式。
语言模型说哪种语言?
本文探讨大型语言模型是否拥有“母语”(很可能是英语),以及它们如何通过共享的概念空间或“语义中枢”处理多语言输入,并使用logit透镜探查内部表征。
LLM神经解剖学第三部分 - LLMs似乎以几何而非语言思考
研究人员分析了LLMs在8种语言和多个模型中的内部表示,发现概念思考发生在transformer中间层的几何空间中,且与输入语言无关,这支持了类似于乔姆斯基理论的普遍深层结构假说,而非萨丕尔-沃尔夫语言相对论。