标签
本文提出了多轮越狱攻击中的“有效视界压缩”（effective-horizon compression）概念，表明仅保留原始查询序列的大约一半就足以复现同等的攻击进度；同时证明，对相关性较低的早期查询进行降权，能够提升攻击者的训练效果与防御性能。
本文介绍Blueprint，一个安全评估框架，使用WorldviewSim和蒙特卡洛树搜索来优化针对大型语言模型的多轮越狱攻击，以较少的查询实现高攻击成功率，并揭示特定模型的漏洞。
EvoFlint引入了一种用于大语言模型多轮红队测试的进化质量多样性搜索方法，旨在绘制漏洞图谱而非仅仅破坏模型，在各种大语言模型上实现了高攻击成功率。
本文介绍了时间上下文感知（TCA），一种防御框架，通过分析语义漂移、跨轮次意图一致性和不断演变的对话模式来检测针对LLM的多轮操纵攻击，从而减轻跨对话的对抗性上下文构建。
本文提出对话批评者引导采样（DCGS）框架，通过从对话历史推断用户意图，并利用基于价值/遗憾的批评者对回复进行评分，在不进行微调的情况下提高鲁棒性，从而防御LLMs免受多轮对抗性攻击。
六个月的真实对抗输入分析显示，简单的多轮对话设置、正向动量利用以及角色重定义攻击始终能够绕过单消息分类器。该文章认为，对对话上下文进行状态监控比改进单次检测更为有效。
攻击者可以通过将恶意指令分散到多条消息中来绕过安全检测；Bendex Arc 是一种跨轮次跟踪会话行为以捕获此类攻击的工具。