标签
本文提出了 Stepwise-Querying 方法，在不访问黑盒教师模型内部思维链轨迹的情况下，引导其生成针对各个步骤的解释，并将这些解释整合为训练数据，用于对较小的学生模型进行监督微调。在涵盖两个教师模型、两个学生模型和四个数学／代码基准的 16 项比较中，该方法在 14 项中取得最高分，并引入了 SEIG 诊断指标，用于衡量逐步解释的信息增益。
本文提出一个框架，通过纯文本续接接口对黑盒大语言模型实施越狱攻击，结合基于采样的分布重构、风险门控残差控制以及推测性多 token 执行，在不获取模型权重或 token 概率的情况下绕过安全对齐机制。
本文提出了一种基于句子级能量景观的模型无关、事后解释框架，用于黑盒大语言模型。一个替代能量模型模拟目标LLM，一个轻量级解释器网络识别哪些提示句子对给定输出的影响最大，无需进一步的API调用。