从激活到因果:发现人脑中因果视觉表征
摘要
BrainCause框架利用生成模型和大脑模型来识别人类大脑中的因果神经表征,证明仅凭激活不足以确认概念表征。
查看缓存全文
缓存时间: 2026/06/03 15:38
论文页面 - 从激活到因果:发现人脑中因果性的视觉表征
来源:https://huggingface.co/papers/2605.23895
摘要
BrainCause框架结合生成模型和大脑模型,通过因果测试来识别有效的神经表征,证明仅靠激活不足以确认概念表征。
识别人类大脑中哪些脑区表征视觉概念是神经科学的核心挑战。现有方法通过激活最大化(https://huggingface.co/papers?q=activation%20maximization)定位粗粒度功能区域(如面孔、地点),即识别出对目标概念激活强度显著高于其他概念的脑区。然而,强激活本身并不能证明该区域真正表征该概念,因为反应可能被相关的视觉或语义线索所驱动。我们提出BrainCause,一种自动化框架,它结合生成模型和大脑模型(https://huggingface.co/papers?q=brain%20models)来合成受控刺激,并通过定向因果测试(https://huggingface.co/papers?q=causal%20testing)验证神经表征。给定一个指定感兴趣概念的查询,我们的框架构建定向刺激集,包括概念图像、移除目标概念但保留其他图像内容的反事实编辑图像,以及含有候选相关干扰因素的图像。然后利用图像到fMRI编码模型(https://huggingface.co/papers?q=image-to-fMRI%20encoding%20model)预测大脑反应,并搜索那些对目标概念而非相关替代概念有特异反应的脑区表征。BrainCause返回经过验证的候选表征,并提出后续fMRI实验以进一步测试或扩展其发现。我们的方法成功恢复了已知的功能定位(https://huggingface.co/papers?q=functional%20localizations),并在数十个概念上识别出新的候选表征——这些结果在预测和实测fMRI数据上均得到验证。关键的是,我们证明如果没有因果验证,很大一部分定位结果将是假阳性,这确认了仅靠激活不足以作为表征的证据。
查看arXiv页面(https://arxiv.org/abs/2605.23895)查看PDF(https://arxiv.org/pdf/2605.23895)项目页面(https://yuvalgol123.github.io/BrainCause/)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2605.23895)
在你的智能体中获取此论文:
hf papers read 2605.23895
没有最新的CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型0
没有模型链接此论文
在模型 README.md 中引用 arxiv.org/abs/2605.23895 即可从本页链接。
引用此论文的数据集1
BrainCause/Concept_Targeted_Causal_Images 查看者• 4分钟前更新 • 208k • 1.14k • 2 (https://huggingface.co/datasets/BrainCause/Concept_Targeted_Causal_Images)
引用此论文的Spaces0
没有Spaces链接此论文
在Space README.md中引用 arxiv.org/abs/2605.23895 即可从本页链接。
包含此论文的收藏2
相似文章
@MSFTResearch:研究人员引入生成式因果测试,将黑盒模型转化为清晰的假设并验证……
微软研究院及其合作者提出了生成式因果测试(GCT),该方法将黑盒脑预测模型提炼为可测试的解释,并通过fMRI实验进行验证,揭示了特定脑区对语言概念的反应。
多模态大语言模型内部视觉表征的因果探针
本文提出了一种用于探测多模态大语言模型内部视觉表征的因果框架,揭示了实体与抽象概念在编码方式上的差异。研究强调增加模型深度对于编码抽象概念至关重要,并揭示了当前多模态大语言模型在感知与推理之间的脱节。
代理时代的因果发现
本文认为,语言模型代理应通过提供上下文支持和解释来辅助因果发现工作流程,而非生成因果结论,并介绍了causal-learn+平台以演示这一原则。
激活图谱简介
# 激活图谱简介 来源:[https://openai.com/index/introducing-activation-atlases/](https://openai.com/index/introducing-activation-atlases/) 理解神经网络内部工作原理不仅仅是科学好奇心的问题——我们的知识缺陷限制了审计神经网络的能力,在高风险场景中,确保其安全性。通常,如果要部署关键软件,可以审查代码的所有执行路径,但
CausaLab: 面向AI科学家的可扩展交互式因果发现环境
CausaLab 是一个可扩展的环境,用于评估LLM智能体在交互式因果发现中的表现,同时衡量预测准确性和对潜在因果机制的忠实复现。实验揭示了预测与机制复现之间的差距,突显了当前LLM智能体作为实验性因果推理者的局限性。