标签
论文提出 M³，一个将多轮越狱形式化为有限时域马尔可夫决策过程（MDP）的自动化红队框架，在两个基准、六个目标模型上将攻击成功率（ASR@5）提升最高达 53%，显著优于现有黑盒多轮红队方法。
AnswerMap引入了一种黑箱、免训练的方法，用于VLM的空间可解释性，通过从答案后验构建查询条件地图，展示了在不同任务中的忠实性和实用性。
本文提出了一种动态聚合增强的高效全局优化算法（DA-EGO），用于解决高维涡轮机械设计问题，并通过基准测试和气动应用进行了验证。
本文提出了一种系统化的黑箱框架，用于评估代理AI系统，引入了风险分类和自动化红队测试方法。跨代理架构的经验验证揭示了关键漏洞，治理和隐私风险比例较高。
DiSCO是一种免训练的黑盒防御方法，用于文本到图像模型，通过分布引导的对比提示优化防止生成不安全内容（NSFW），显著降低攻击成功率。
本文介绍了Groundedness Drift，一种用于语言模型分类器黑盒审计的评分，利用干净的校准数据和解释性输出来检测后门。它在多种攻击家族和数据集上展示了更高的检测性能。
This paper introduces ReBIND, a framework that measures, predicts, and repairs behavioral relapse in black-box LLM dialogues where models continue to follow revoked constraints. Experiments with HumanEval show that ahead-of-time compilation significantly reduces relapse compared to a baseline, while adaptive interventions add no detectable gain.
作者分享了一个比人类更准确的分诊智能体如何仍然未能被采纳，直到他们为每个决策添加了通俗易懂的解释，得出结论：可理解性比准确性更能建立信任。
本文介绍了Crafter，一种用于修正特征发现的智能体，通过组合搜索和LLM生成的特征来挖掘冻结黑盒预测器的残差，在六个数据集和骨干网络上实现了高达27%的错误率降低。
本文介绍了关系响应场（RRF），这是一个理论框架，用于确定黑盒LLM响应在损坏情况下何时可以被可靠恢复，并建立了将响应一致性与真实性区分开的可辨识性条件和极小极大界。
本文提出了一种从黑盒语言模型中提取训练数据的概率方法，表明聚合的成员推断指标掩盖了逐文档泄露，并介绍了“leakit”审计工具。
本文提出了PTP，一种功能性LLM反演方法，利用目标黑盒LLM生成的合成数据，从头开始训练一个使用前文标记预测的逆语言模型，从而能够从响应中近乎精确地重建提示，性能优于先前工作。
讨论了AI代理能够构建可运行的应用，但在无人值守的生产环境中部署时仍是不可信任的黑盒这一未解决的问题。
一位开发者构建了一个能起草销售演示文稿的AI代理，但采用率几乎为零，直到代理展示了每张幻灯片选择背后的推理。教训：让代理的决策可见对于信任比原始输出质量更重要。
本文提出了一种统一的黑盒鲁棒性评估框架，用于评估企业NLP中词元级解释的鲁棒性，并对比了编码器（BERT、RoBERTa）和解码器（Qwen、Llama）模型。研究发现，解码器大语言模型产生的解释明显更稳定，且稳定性随模型规模提升而增强，同时提供了部署前模型选择的成本-鲁棒性权衡曲线。
提出干预式基础审计作为一种黑盒、步骤级测试，用于检查LLM思维链推理是否真正依赖于其陈述的前提。在ProntoQA上使用GPT-4o进行评估，在检测证明树依赖关系上达到F1=0.806，显著优于自一致性基线。
BABEL 编解码器实现了对 GPT-2 small 内部状态的首次完整解码，重构了其 94.7% 的行为，并支持用英语读写模型，同时提供开源资源和演示。
本文提出了一个黑盒评估框架，用于评估大型语言模型从结构化技术文档生成设计结构矩阵（DSM）的能力。该框架引入了可复现的度量指标和复合质量评分，结果表明，虽然LLM能够生成看似合理的DSM，但它们仍然对歧义和提示措辞敏感。