标签
本文指出，在LLM智能体中简单积累技能可能导致性能倒退，因为对某些任务有益的技能反而会损害其他任务。作者提出Assay框架，该框架衡量每个技能的因果贡献，并对每个任务进行掩码处理，在不更新权重的情况下，在AppWorld和τ-bench上取得了最先进的结果。
本文研究了最小预测性神经系统（一个192维GRU）能够区分自我引起的变化与世界引起的变化的发展条件，识别了能动性的四个必要条件，并引入了一个称为能动性增益的度量。
MemAudit 是一种针对记忆增强型 LLM 代理的事后审计框架，它通过结合反事实影响分数和结构异常检测来识别受污染的记忆，在现实场景中将攻击成功率从超过 70% 降低至 0%。