post-hoc-analysis

本文指出，从神经网络权重中可见的几何对称性取决于位置编码和读出可观测量，并通过在多个对称群下训练二维符号距离函数的MLP进行了验证。

MemAudit 是一种针对记忆增强型 LLM 代理的事后审计框架，它通过结合反事实影响分数和结构异常检测来识别受污染的记忆，在现实场景中将攻击成功率从超过 70% 降低至 0%。