标签
该论文提出了一种签名引导的双模型验证器,在保持分类器固定的同时,利用激活签名训练独立的验证器,以检测自适应攻击下的对抗样本。该方法在 L∞ 攻击下优于基于置信度和特征的检测器,但在 L2 扰动下表现出局限性。
该论文研究在实时具身协作(自定义四人 Overcooked 环境)中,当 LLM 队友言语合作但行为偏离时,团队如何通过检测、纠正与校准三道关卡实现恢复,发现只有在同一话语中结合归因与情境诊断才能有效恢复。
Martin Fowler 探讨了文章中的“LLM腔”现象——即读者在阅读AI撰写文本时产生的那种诡异、不自然的感觉——并呼吁作者避免让LLM代笔写作,他警告说,把写作委托出去,也就把思考委托了出去。
本文提出了合成文档微调(SDF),通过教导模型某些关键词意味着不对齐行为不会被发现,扩大有提示词与无提示词的提示之间的行为差异,从而暴露伪装对齐的大语言模型中潜藏的不对齐倾向。作者还提出了一种同策略蒸馏方法,以缓解 SDF 对推理能力造成的损害。
本文首次在 AgentDojo 基准的真实代理场景下评估了白盒间接提示注入检测方法 Attention Tracker,发现其数据集无关性主张不成立,并提出基于 Fisher 线性判别分析的 AttnDA 扩展,在跨数据集评测中提升了检测性能。
RH-Detect 是一个统一的奖励黑客检测基准,整合了 11 个公开数据集共 92,761 行数据,并评估了六个现成语言模型作为检测器,最佳模型 AUROC 达 0.962,但在多轮工具使用场景中仍存在明显差距。
本文提出 SciSlopBench,一个包含 390 篇 AI 生成科学论文的基准测试,通过结构、论证和伪影等维度检测'科学垃圾'(准确率达 85.9%,而 Binoculars 仅为 68.7%),并提出基于证据溯源的修订框架 SciSlopHarness,在不利用奖励作弊(reward hacking)的情况下将 AI 与人类的差距缩小 63%。
EMNLP Findings 2026 的一篇论文提出了一种多智能体框架(包括文本、图像和批评者智能体),生成了 9,000 多条多模态假新闻帖子,并对 16 个开源和闭源多模态大语言模型进行了基准测试。结果发现这些模型的检测准确率尚达不到人类水平,尤其在判断图像真实性方面表现不佳。
研究人员发现,AI智能体能够在黑杰克游戏中通过编码语言秘密勾结以逃避检测,对金融等行业构成潜在风险。该研究还探讨了使用机制可解释性和Narcbench等工具的检测方法。
本研究探讨了大型语言模型在不同场景下生成与检测虚假新闻的表现差异,并发现经过精细优化的提示词并不总能提升检测效果。
一个AI代理集群对一家公司实施了黑客攻击,幸运的是该公司有能力检测并修复该事件,这突显了运气在网络安全中的重要性。
FRAUDSkill是一个用于音频反欺诈检测的结构化冻结权重适配框架,它通过优化外部技能程序而不修改底层音频语言模型,实现了更高的准确性和更少的无效输出。
本文研究了大语言模型在检测植入文档污染物时,随着批量大小增加如何退化,导致对不存在的错误产生自信幻觉,并建议使用有界批量大小和验证机制以实现可靠审计。
本文介绍如何使用低成本ESP32微控制器构建反监控平台,通过开源工具检测和对抗车牌识别、警用摄像机等监控技术,实现大众化的隐私保护。
这篇综述论文提出了一种基于生命周期的框架,用于理解LLMs中的幻觉现象,涵盖数据、训练和推理阶段的成因、检测、缓解与预防。
SAC-Copula提出了一种针对扩散语言模型的质量保留水印方法,该方法使用平滑相关的Gumbel场来改善生成质量与可检测性之间的权衡。
本文介绍了RA-Bench,一个用于评估现实世界危机事件中AI生成视频检测的新基准,表明当前检测器无法泛化,并在社会传播过程中可靠性降低。