causal-attribution

标签

Cards List
#causal-attribution

当合作必须改变时:多智能体强化学习中的语义策略遗忘

arXiv cs.AI ↗ · 5天前 缓存

本文形式化定义了协作式多智能体强化学习(MARL)中的语义协调策略遗忘问题,并提出 CARVE。该方法利用因果协调归因、兼顾保留目标的子空间更新、反事实重新协调和对抗性审计,在保留有用协作能力的同时移除过时惯例,在五个基准测试中将惯例诱发率降低了 91.4%,而效用损失的中位数仅为 5.9%。

0 人收藏 0 人点赞
#causal-attribution

从行为到来源:将表格基础模型归因于合成预训练数据

arXiv cs.LG ↗ · 2026-10-05 缓存

本文提出使用 O'PRIOR 任务生成器进行受控的合成预训练,使表格基础模型的训练数据归因在实验上可验证。研究表明,移除贡献度最高的任务会可测量地导致留出集性能下降,同时揭示了来源关联性与干预忠实性可能会出现背离。

0 人收藏 0 人点赞
#causal-attribution

CAS:用于局部和全局可解释人工智能的因果归因评分

arXiv cs.AI ↗ · 2026-08-14 缓存

介绍了CAS,一种用于局部和全局可解释AI的因果归因评分,它将预测重要性与因果效应异质性区分开来,并在基准测试和实证数据集上进行了验证。

0 人收藏 0 人点赞
#causal-attribution

TelemetrySuffBench:智能体遥测是否足以进行故障起源诊断?

arXiv cs.AI ↗ · 2026-08-11 缓存

介绍了 TelemetrySuffBench,这是一个用于评估智能体遥测是否足以进行故障起源诊断的基准。研究发现,完整的遥测数据使某些模型在起源步骤上达到较高的准确率,但粗粒度/与 OpenTelemetry 兼容的视图会产生明显的检测-定位差距,并且多个模型在面对模糊跟踪时难以进行安全弃权。

0 人收藏 0 人点赞
#causal-attribution

并非所有技能都有帮助:衡量与修复智能体知识

arXiv cs.CL ↗ · 2026-06-16 缓存

本文指出,在LLM智能体中简单积累技能可能导致性能倒退,因为对某些任务有益的技能反而会损害其他任务。作者提出Assay框架,该框架衡量每个技能的因果贡献,并对每个任务进行掩码处理,在不更新权重的情况下,在AppWorld和τ-bench上取得了最先进的结果。

0 人收藏 0 人点赞
#causal-attribution

从预测到自我:最小神经系统中能动性的发展条件

arXiv cs.LG ↗ · 2026-06-05 缓存

本文研究了最小预测性神经系统(一个192维GRU)能够区分自我引起的变化与世界引起的变化的发展条件,识别了能动性的四个必要条件,并引入了一个称为能动性增益的度量。

0 人收藏 0 人点赞
#causal-attribution

MemAudit:通过因果归因与结构异常检测对受污染代理记忆进行事后审计

arXiv cs.AI ↗ · 2026-05-25 缓存

MemAudit 是一种针对记忆增强型 LLM 代理的事后审计框架,它通过结合反事实影响分数和结构异常检测来识别受污染的记忆,在现实场景中将攻击成功率从超过 70% 降低至 0%。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈