标签
本文形式化定义了协作式多智能体强化学习(MARL)中的语义协调策略遗忘问题,并提出 CARVE。该方法利用因果协调归因、兼顾保留目标的子空间更新、反事实重新协调和对抗性审计,在保留有用协作能力的同时移除过时惯例,在五个基准测试中将惯例诱发率降低了 91.4%,而效用损失的中位数仅为 5.9%。
本文提出使用 O'PRIOR 任务生成器进行受控的合成预训练,使表格基础模型的训练数据归因在实验上可验证。研究表明,移除贡献度最高的任务会可测量地导致留出集性能下降,同时揭示了来源关联性与干预忠实性可能会出现背离。
介绍了CAS,一种用于局部和全局可解释AI的因果归因评分,它将预测重要性与因果效应异质性区分开来,并在基准测试和实证数据集上进行了验证。
介绍了 TelemetrySuffBench,这是一个用于评估智能体遥测是否足以进行故障起源诊断的基准。研究发现,完整的遥测数据使某些模型在起源步骤上达到较高的准确率,但粗粒度/与 OpenTelemetry 兼容的视图会产生明显的检测-定位差距,并且多个模型在面对模糊跟踪时难以进行安全弃权。
本文指出,在LLM智能体中简单积累技能可能导致性能倒退,因为对某些任务有益的技能反而会损害其他任务。作者提出Assay框架,该框架衡量每个技能的因果贡献,并对每个任务进行掩码处理,在不更新权重的情况下,在AppWorld和τ-bench上取得了最先进的结果。
本文研究了最小预测性神经系统(一个192维GRU)能够区分自我引起的变化与世界引起的变化的发展条件,识别了能动性的四个必要条件,并引入了一个称为能动性增益的度量。
MemAudit 是一种针对记忆增强型 LLM 代理的事后审计框架,它通过结合反事实影响分数和结构异常检测来识别受污染的记忆,在现实场景中将攻击成功率从超过 70% 降低至 0%。