memory-laundering

标签

Cards List
#memory-laundering

内存增强型LLM智能体中的状态污染

arXiv cs.AI · 2026-05-19 缓存

本文识别并研究了LLM智能体中的“记忆洗白”现象,即有毒或对抗性上下文被压缩成记忆摘要后,能够逃避标准毒性检测器,同时仍影响后续生成。文章引入了亚阈值传播间隙(SPG)来衡量隐藏的下游影响,并表明在摘要之前对有毒状态进行消毒比事后清理更有效。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈