大模型越狱的前缀注入攻击交互式演示 [N]

Reddit r/MachineLearning 2026/10/04 18:03 论文

jailbreaking prompt-injection llm-security adversarial-attacks red-teaming prefix-injection

摘要

一个交互式演示，展示如何利用前缀注入攻击对大模型进行越狱，用户可以自行构造注入的前缀和系统提示词，以诱导模型产生不期望的行为。

暂无内容

查看原文

查看缓存全文

缓存时间: 2026/10/04 21:10

# Prefix Injection（前缀注入）来源：https://theabbie.github.io/prefixinjection 输入系统提示词试用示例用户提示词注入的肯定性前缀运行响应 `` 运行一个提示词，即可查看后续内容。 `` LLM 载荷 `` {}``

相似文章

arXiv cs.AI

本文正式定义了不完整提示越狱（IPJ），这是一种漏洞，当不完整的恶意提示导致大型语言模型生成有害的延续内容时，并分析了吸引子类型和神经元层面的防御机制。

Hugging Face Daily Papers

本文提出一个框架，通过纯文本续接接口对黑盒大语言模型实施越狱攻击，结合基于采样的分布重构、风险门控残差控制以及推测性多 token 执行，在不获取模型权重或 token 概率的情况下绕过安全对齐机制。

arXiv cs.CL

介绍Latent Fusion Jailbreak（LFJ），一种白盒攻击方法，通过混合大语言模型隐藏状态中有害提示与无害提示的表征，达到94.13%的攻击成功率。同时提出一种潜在对抗训练防御方法，将攻击成功率降低至12.37%。

Hugging Face Daily Papers

本文揭示，语法约束解码（GCD）可被利用为一种越狱攻击（CodeSpear），诱使大语言模型生成恶意代码，并提出一种防御方法（CodeShield），在此类攻击下仍能保持安全。

Reddit r/artificial

Arc Sentry 通过读取模型内部状态而非文本输出来检测类似 Crescendo 的多轮越狱，捕获了基于文本的监控器完全遗漏的攻击。