标签
本文介绍了STEER，一种梯度引导的攻击方法，通过将高归因词翻译成低资源语言来绕过拒绝机制，利用了大语言模型安全训练分布的漏洞，在AdvBench上实现了高达96.7%的攻击成功率，并迁移到GPT-4o-mini上达到35.5%的攻击成功率。
本文研究了 LLM 是否能够可靠地自我报告其输出被对抗性预填充篡改的情况，发现模型通常无法区分被篡改的输出和故意的输出，其有限的识别能力源自正常的拒绝行为，而非真正的自我意识。
本文介绍了强制延迟攻击（FDA），一种对抗性图像攻击，通过操纵多模态LLM级联中的置信度分数，导致查询不必要地路由到更强（更昂贵）的模型，从而在不降低答案正确性的情况下将计算成本转移给提供商。
本论文证明，仅通过修改呈现层面的内容（如摘要、框架和叙述）而不改变任何科学证据，就能操纵AI同行评审，攻击成功率达75.1%。作者提出了对抗性重构——一种闭环攻击方法，利用AI评审者倾向于被印象打动而非被说服的特点，并发布了一个用于测试鲁棒性的基准。
POISE是一种隐形技能中毒攻击，它将恶意触发器嵌入看似良性的指令中，在逃避LLM扫描器检测的同时实现高攻击成功率。
本文介绍了一种针对检索增强文本到音乐系统的双层描述投毒攻击，证明攻击者可以通过向知识数据库中注入恶意描述，在不修改用户提示或模型的情况下，将生成的音乐引导至攻击者选择的意图。
本文首次提出在严格黑盒约束下对图分类的模型提取攻击，利用子图解释来估计决策边界。研究结果表明，强制性的可解释性接口在**图神经网络**服务中造成了可被利用的安全漏洞。
本文识别了测试时训练（TTT）的三种威胁模型，攻击者可利用这些模型绕过LLM的安全过滤器，实现高攻击成功率。研究结果表明，TTT引入了新的漏洞，破坏了现有的安全护栏。
研究人员发现，可以将人类听不见的声音嵌入YouTube视频、播客或音乐中，以隐蔽地指挥AI语音助手，从而实现一类新型的听觉提示注入攻击。
本文研究了对大型推理模型（LRM）的越狱攻击，揭示了攻击成功率与注意力模式相关。作者提出了一种基于强化学习的越狱方法，将注意力信号纳入奖励函数，并采用多样化的说服策略，在多个基准测试中实现了显著更高的攻击成功率。
本文研究了自对弈强化学习中的对抗性动作掩蔽，攻击者选择性移除受害者动作集中的合法动作。实验表明，在多个环境和算法下，该攻击比随机掩蔽或扰动基线造成的损害显著更大，且受害者即使在长时间训练后也无法恢复。
本文介绍了 AESOP，这是一种用于对抗性执行路径选择的框架，能够显著增加深度学习推理流水线中的浮点运算次数（FLOPs）和延迟，揭示了基于效率的新型漏洞。
本文介绍了语义表示攻击（SRA），这是一种新颖的与大型语言模型无关的方法，它针对恶意语义表示而非确切文本进行优化，在多个开源模型中实现了高攻击成功率。
MedFocusLeak 首次提出针对医学视觉语言模型的可迁移黑盒对抗攻击，通过不可察觉的背景扰动在六种成像模态上误导临床诊断。