causal-reasoning

标签

Cards List
#causal-reasoning

世界模型的可解释性:从解码表征到理解潜在世界

Hugging Face Daily Papers ↗ · 2026-10-18 缓存

## 一篇观点性论文 **主题:面向基于 JEPA 的潜空间世界模型的四阶段研究议程——Ground(奠基)、Structure(结构化)、Verify(验证)、Act(行动)** **摘要** 该观点性论文提出了一套四阶段研究议程——**Ground、Structure、Verify、Act**——用于解释基于 JEPA(Joint Embedding Predictive Architecture,联合嵌入预测架构)的潜空间世界模型。文章主张,可解释性研究的重心应当从"解码表征内容"转向"理解潜变量之间的相互作用、演化过程及其对预测的因果驱动机制"。 核心论点包括: - **从解码到机制**:传统可解释性方法倾向于把潜变量当作需要还原为人类可读语义的"黑箱编码",而在潜空间世界模型中,关键问题不再是"模型学到了什么特征",而是"这些潜变量如何协同工作并产生预测"。 - **关注相互作用与演化**:潜变量之间的耦合关系及其随时间的动态演化,才是理解模型内部世界表征的切入点。 - **强调因果驱动**:预测能力的来源应被解释为潜变量层面的因果过程,而非仅仅归因于统计相关性。 **四阶段议程** 1. **Ground(奠基)**:为潜变量建立语义与经验锚点,明确其对应的世界要素。 2. **Structure(结构化)**:刻画潜变量之间的组织方式、依赖结构与层级关系。 3. **Verify(验证)**:通过干预与反事实实验检验所识别结构的可靠性与因果有效性。 4. **Act(行动)**:将理解结果反馈至模型设计、规划与控制,实现"理解即可用"。 论文认为,只有完成这一从表征解读到机制理解的范式转变,才能真正回答 JEPA 类世界模型"为何有效"以及"如何可信"的问题。

0 人收藏 0 人点赞
#causal-reasoning

ACED-Bench:评估大语言模型智能体如何获取因果证据并据此采取行动

arXiv cs.AI ↗ · 2026-10-15 缓存

ACED-Bench 提出了一项神经符号基准,将自然语言科学情境与隐藏的概率图模型相结合,以评估大语言模型智能体能否在 180 项核心任务和一套包含 150 道题的资格测试中,主动设计实验、收集因果证据并做出正确的因果决策。

0 人收藏 0 人点赞
#causal-reasoning

@svpino:这些机器人背后的系统相当酷:它对动作如何改变物理世界进行建模,并推理其……

X AI KOLs Timeline ↗ · 2026-10-09 缓存

Aether AI 展示了其首个因果机器人智能系统 CRIS-0 在真实家庭环境中的运行,该系统通过因果世界模型预测动作后果、维持任务上下文并调用统一工具接口来导航和适应现实变化。

0 人收藏 0 人点赞
#causal-reasoning

VepAgent:通过工具增强强化学习衔接因果转移以实现视频事件预测

Hugging Face Daily Papers ↗ · 2026-10-05

该论文提出 VepAgent,一个将因果转移推理与工具增强强化学习结合的智能体框架,用于视频事件预测,并构建了 futurebench-4K 思维链数据集,在 FutureBench 和 NEPBench 上达到 SOTA 性能。

0 人收藏 0 人点赞
#causal-reasoning

预测信用:衡量科学解释为实验预测带来的附加价值

arXiv cs.AI ↗ · 2026-10-02 缓存

本文是 arXiv 论文,提出了一套协议,用于衡量科学解释为实验预测所贡献的预测信用(predictive credit)。研究在 Tox21 和 OpenML 基准上发现,匹配的科学解释并未显著提升预测准确率,但在某些模型复现(model replay)设置下仍观察到了一定的性能增益。

0 人收藏 0 人点赞
#causal-reasoning

FireWorldBench:通过耦合场火灾动力学评估复杂物理世界智能

arXiv cs.AI ↗ · 2026-09-23 缓存

FireWorldBench是一个基准,通过耦合场火灾动力学评估多模态大语言模型中的复杂物理世界智能,专注于预测、感知和因果推理等任务。

0 人收藏 0 人点赞
#causal-reasoning

CaLR:基于因果潜变量修正的鲁棒扩散推理

arXiv cs.AI ↗ · 2026-09-21 缓存

论文提出CaLR框架,通过因果拓扑构建有约束隐空间优化机制以增强扩散语言模型,在复杂基准测试中实现了最先进的性能。

0 人收藏 0 人点赞
#causal-reasoning

将VGDL编译为因果模型

arXiv cs.AI ↗ · 2026-09-10 缓存

该论文提出了一种确定性框架,可将VGDL规范的游戏编译为Dynamic Structural Causal Models,以确保因果保真度,为反事实推理和因果强化学习提供透明的因果路径。

0 人收藏 0 人点赞
#causal-reasoning

C$^{3}$T: 社交媒体对话树中情感变化的反事实因果推理

arXiv cs.CL ↗ · 2026-09-03 缓存

本文提出了C3T,一个线程结构的时序模型,用于使用反事实因果推理预测社交媒体对话树中的情感变化,并介绍了用于因果情感推理的CaSiRe数据集。

0 人收藏 0 人点赞
#causal-reasoning

医学因果假设验证与大语言模型

arXiv cs.CL ↗ · 2026-09-02 缓存

本文介绍了一项初步研究,评估大语言模型在验证医学因果假设方面的准确性,发现尽管它们表现出较高的召回率,但往往无法提供有效的科学证据或拒绝无支持的声明。

0 人收藏 0 人点赞
#causal-reasoning

CaRGo-T:因果推理思维图提升多模态幽默理解

Hugging Face Daily Papers ↗ · 2026-08-24 缓存

CaRGo-T 引入了一个基于图的推理框架,用于建模因果关系,以提升视觉-语言模型中的多模态幽默理解,在幽默理解和检测任务上展示了性能提升。

0 人收藏 0 人点赞
#causal-reasoning

基于二部图因果模型的因果推理

arXiv cs.AI ↗ · 2026-08-21 缓存

本文提出二部图因果模型(BGCMs),以解决在具有循环依赖的平衡系统中因果干预的歧义性,推广了现有的框架,如 Causal Bayesian Networks 和 Structural Causal Models。

0 人收藏 0 人点赞
#causal-reasoning

可定位但不可释放:静默门控反转与有界线性释放

arXiv cs.CL ↗ · 2026-08-13 缓存

一项针对小型Transformer的预注册压力测试表明,虽然潜在因果结构可以被定位,但将其释放到行为中却失败:门控检测器在分布外反转,线性释放方向低于充分性界限,从而将定位与行为释放分离开来。

0 人收藏 0 人点赞
#causal-reasoning

因果结构可诱导但功能解耦:类型化机制库中的路由/读出边界

arXiv cs.CL ↗ · 2026-08-13 缓存

本文研究Transformer如何组织因果知识,表明类型级监督会诱导一种类型化的路由结构,该结构在功能上与答案读出解耦,并具有精确的局部可编辑性和位精确的可还原性。

0 人收藏 0 人点赞
#causal-reasoning

面向工业因果推理的模拟器接地大语言模型:用于污水处理决策支持的工具使用、结构化注入与跨厂可移植检索

arXiv cs.CL ↗ · 2026-08-07 缓存

本文比较了将冻结LLM(Qwen2.5-32B-Instruct)接地到污水处理模拟器以进行因果问答的三种方法,包括实时工具使用、结构化参数注入和小型解耦检索模型,实现了高准确率和跨厂迁移。

0 人收藏 0 人点赞
#causal-reasoning

抽象事件因果规则:归纳与应用

arXiv cs.AI ↗ · 2026-08-07 缓存

本文提出了抽象事件因果规则(AECR),一种关系级因果抽象范式,将具体的因果关系对转化为广义的因果逻辑。它引入了一个用于因果归纳的多智能体系统和一个基于注意力的编码器,从而改善事件预测,尤其是对稀有和未见事件。

0 人收藏 0 人点赞
#causal-reasoning

当多个答案都有效时,投票会失效:面向LLM的Best-of-K因果推理符号验证

Hugging Face Daily Papers ↗ · 2026-08-04 缓存

本文介绍了CALVER,一种无需训练的符号验证器,它根据Pearl的因果准则对结构化因果推理轨迹进行评分,以选出最佳候选答案;在存在多个有效答案的因果推理基准上,其表现优于plurality投票和其他选择方法。

0 人收藏 0 人点赞
#causal-reasoning

证据类型竞争:干预数据何时能教会语言模型因果方向?

arXiv cs.CL ↗ · 2026-08-03 缓存

本文在受控的辛普森悖论世界中测试了预训练中增加干预数据是否能提升大语言模型的因果方向推理能力。研究发现,训练混合比例并不决定干预证据的使用,相反,推理时上下文中的证据类型才是决定性因素。

0 人收藏 0 人点赞
#causal-reasoning

[R] CausalVLBench:大型视觉语言模型中视觉因果推理的基准测试。

Reddit r/MachineLearning ↗ · 2026-08-02 缓存

这篇arXiv论文介绍了CausalVLBench,这是一个用于评估大型视觉语言模型中视觉因果推理的基准,涵盖三个任务:因果结构推断、干预目标预测和反事实预测。它在三个因果表示学习数据集上评估了开源LVLM,揭示了其优势与不足。

0 人收藏 0 人点赞
#causal-reasoning

相同证据,不同目标:从语言模型状态解码诊断证据如何关联因果问题

arXiv cs.CL ↗ · 2026-07-30 缓存

本文研究语言模型是否能正确判断诊断证据如何支持或挑战不同的因果主张,并引入了仅改变因果目标的配对提示。在Qwen2.5-7B-Instruct等模型的倒数第二个Transformer隐藏状态上进行的线性读出显示,平衡准确率适中(0.654-0.659),并在49对中恢复了18-21对,表明因果相关性具有一定程度的线性可解码性。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈