interventions

标签

Cards List
#interventions

预测关联,而非干预:对协变量感知时间序列基础模型的预注册因果审计

arXiv cs.LG ↗ · 2026-10-27 缓存

一项预注册的因果审计发现,能够感知协变量的时间序列基础模型(Chronos-2、TiRex-2、TabPFN-TS、TimesFM-2.5)预测的是关联,而非干预效应;研究推导出的混杂差距可通过使用 LoRA 适配器进行简短的干预式后训练,最多缩小 83%。

0 人收藏 0 人点赞
#interventions

K/V缓存干预在仅解码器语言模型中解耦表征对齐与人格表达

arXiv cs.CL ↗ · 2026-09-11 缓存

本文探讨了在仅解码器语言模型中使用K/V缓存干预进行人格控制的方法,发现表征对齐与行为表达之间存在解耦,其中中层干预在人格表达方面有效且能保留词汇多样性。

0 人收藏 0 人点赞
#interventions

智能体过度信任工具:衡量对不可靠工具的依赖

arXiv cs.AI ↗ · 2026-09-10 缓存

本文评估大型语言模型智能体如何过度信任不可靠的工具返回信息,测量被篡改信息的采纳率,并测试缓解此问题的干预措施。

0 人收藏 0 人点赞
#interventions

图手术与do算子:无环结构因果模型的精确对应

arXiv cs.AI ↗ · 2026-08-19 缓存

本文在无环结构因果模型中建立了图手术与do算子之间的精确数学对应,证明了它们在依赖图方面的等价性。

0 人收藏 0 人点赞
#interventions

DoTime: A Synthetic Benchmark Generator for Interventional and Counterfactual Time Series

arXiv cs.LG ↗ · 2026-07-31 缓存

DoTime is a synthetic benchmark generator for interventional and counterfactual time series, providing scalable TSCM-based data generation with exact ground truth, released as a PyPI package with evaluation suites. It enables training and benchmarking causal foundation models on non-observational time series data.

0 人收藏 0 人点赞
#interventions

稀疏特征干预何时真正局部化?基于SAE的安全控制匹配评估

arXiv cs.AI ↗ · 2026-07-14 缓存

本文介绍了一种针对语言模型中稀疏特征干预的匹配评估协议,表明在与公平密集基线进行恰当对比时,基于SAE的安全控制所声称的效率优势会消失或逆转。

0 人收藏 0 人点赞
#interventions

@swyx: 在我看来,这是 Anthropic 今天 J-space 论文中最重要的部分。它分为两部分:1) Anthropic 证明了他们可以对推理进行 "脑…"

X AI KOLs Timeline ↗ · 2026-07-07 缓存

Anthropic 的 J-space 论文表明,他们可以对推理进行“脑外科”干预以中途改变话题,并且模型能够检测到所做的干预,这表明了一种评估意识。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈