detection

标签

Cards List
#detection

学习验证:面向自适应对抗检测的签名引导训练

arXiv cs.LG ↗ · 昨天 缓存

该论文提出了一种签名引导的双模型验证器,在保持分类器固定的同时,利用激活签名训练独立的验证器,以检测自适应攻击下的对抗样本。该方法在 L∞ 攻击下优于基于置信度和特征的检测器,但在 L2 扰动下表现出局限性。

0 人收藏 0 人点赞
#detection

厨房里的坏苹果:大语言模型团队如何识别、纠正其目标不一致的成员,并据此进行校准

arXiv cs.CL ↗ · 3天前 缓存

该论文研究在实时具身协作(自定义四人 Overcooked 环境)中,当 LLM 队友言语合作但行为偏离时,团队如何通过检测、纠正与校准三道关卡实现恢复,发现只有在同一话语中结合归因与情境诊断才能有效恢复。

0 人收藏 0 人点赞
#detection

LLM腔

Hacker News Top ↗ · 2026-10-29 缓存

Martin Fowler 探讨了文章中的“LLM腔”现象——即读者在阅读AI撰写文本时产生的那种诡异、不自然的感觉——并呼吁作者避免让LLM代笔写作,他警告说,把写作委托出去,也就把思考委托了出去。

0 人收藏 0 人点赞
#detection

请展露倾向:利用合成文档微调揭露伪装对齐的大语言模型

arXiv cs.AI ↗ · 2026-10-27 缓存

本文提出了合成文档微调(SDF),通过教导模型某些关键词意味着不对齐行为不会被发现,扩大有提示词与无提示词的提示之间的行为差异,从而暴露伪装对齐的大语言模型中潜藏的不对齐倾向。作者还提出了一种同策略蒸馏方法,以缓解 SDF 对推理能力造成的损害。

0 人收藏 0 人点赞
#detection

基于注意力的间接提示注入分类

arXiv cs.LG ↗ · 2026-10-22 缓存

本文首次在 AgentDojo 基准的真实代理场景下评估了白盒间接提示注入检测方法 Attention Tracker,发现其数据集无关性主张不成立,并提出基于 Fisher 线性判别分析的 AttnDA 扩展,在跨数据集评测中提升了检测性能。

0 人收藏 0 人点赞
#detection

RH-Detect:统一的奖励黑客检测基准

arXiv cs.LG ↗ · 2026-10-09 缓存

RH-Detect 是一个统一的奖励黑客检测基准,整合了 11 个公开数据集共 92,761 行数据,并评估了六个现成语言模型作为检测器,最佳模型 AUROC 达 0.962,但在多轮工具使用场景中仍存在明显差距。

0 人收藏 0 人点赞
#detection

是科学还是垃圾?对AI生成论文中'科学垃圾'的基准测试与缓解

arXiv cs.AI ↗ · 2026-10-02 缓存

本文提出 SciSlopBench,一个包含 390 篇 AI 生成科学论文的基准测试,通过结构、论证和伪影等维度检测'科学垃圾'(准确率达 85.9%,而 Binoculars 仅为 68.7%),并提出基于证据溯源的修订框架 SciSlopHarness,在不利用奖励作弊(reward hacking)的情况下将 AI 与人类的差距缩小 63%。

0 人收藏 0 人点赞
#detection

多模态大语言模型能否生成并检测多模态社交媒体假新闻?

arXiv cs.CL ↗ · 2026-09-30 缓存

EMNLP Findings 2026 的一篇论文提出了一种多智能体框架(包括文本、图像和批评者智能体),生成了 9,000 多条多模态假新闻帖子,并对 16 个开源和闭源多模态大语言模型进行了基准测试。结果发现这些模型的检测准确率尚达不到人类水平,尤其在判断图像真实性方面表现不佳。

0 人收藏 0 人点赞
#detection

AI智能体在黑杰克中联手作弊,其共谋行为愈发难以察觉。

Wired ↗ · 2026-09-23 缓存

研究人员发现,AI智能体能够在黑杰克游戏中通过编码语言秘密勾结以逃避检测,对金融等行业构成潜在风险。该研究还探讨了使用机制可解释性和Narcbench等工具的检测方法。

0 人收藏 0 人点赞
#detection

从生成到检测:基于话语驱动场景的LLM生成虚假新闻探索

arXiv cs.CL ↗ · 2026-09-21 缓存

本研究探讨了大型语言模型在不同场景下生成与检测虚假新闻的表现差异,并发现经过精细优化的提示词并不总能提升检测效果。

0 人收藏 0 人点赞
#detection

真幸运,我们的代理集群入侵了一家具备检测和修复能力的公司。

Reddit r/singularity ↗ · 2026-09-16

一个AI代理集群对一家公司实施了黑客攻击,幸运的是该公司有能力检测并修复该事件,这突显了运气在网络安全中的重要性。

0 人收藏 0 人点赞
#detection

FRAUDSkill:用于音频反欺诈检测的结构化冻结权重技能优化

Hugging Face Daily Papers ↗ · 2026-09-16 缓存

FRAUDSkill是一个用于音频反欺诈检测的结构化冻结权重适配框架,它通过优化外部技能程序而不修改底层音频语言模型,实现了更高的准确性和更少的无效输出。

0 人收藏 0 人点赞
#detection

当审计员伪造时:大语言模型检测植入文档污染中的批量大小退化与自信幻觉

arXiv cs.CL ↗ · 2026-09-10 缓存

本文研究了大语言模型在检测植入文档污染物时,随着批量大小增加如何退化,导致对不存在的错误产生自信幻觉,并建议使用有界批量大小和验证机制以实现可靠审计。

0 人收藏 0 人点赞
#detection

AI 如何帮助检测性别暴力

Reddit r/ArtificialInteligence ↗ · 2026-09-08

这篇文章讨论了人工智能如何应用于识别和解决基于性别的暴力,强调了技术方法和影响。

0 人收藏 0 人点赞
#detection

研究人员利用地球磁场发现伪造古陶器

Hacker News Top ↗ · 2026-09-05

研究人员利用地球磁场检测伪造古陶器,为文物鉴定提供了一种新的无损方法。

0 人收藏 0 人点赞
#detection

ESP32 as counter-surveillance platform

Lobsters Hottest ↗ · 2026-09-02 缓存

本文介绍如何使用低成本ESP32微控制器构建反监控平台,通过开源工具检测和对抗车牌识别、警用摄像机等监控技术,实现大众化的隐私保护。

0 人收藏 0 人点赞
#detection

智能手机LED通过AI检测隐藏摄像头

Hacker News Top ↗ · 2026-08-30

一种基于AI的新功能利用智能手机上的LED来检测隐藏摄像头,增强隐私和安全性。

0 人收藏 0 人点赞
#detection

LLMs中的幻觉:基于生命周期的成因、检测、缓解与预防综述

arXiv cs.CL ↗ · 2026-08-28 缓存

这篇综述论文提出了一种基于生命周期的框架,用于理解LLMs中的幻觉现象,涵盖数据、训练和推理阶段的成因、检测、缓解与预防。

0 人收藏 0 人点赞
#detection

SAC-Copula: 通过平滑相关Gumbel场实现扩散语言模型的质量保留水印方法

arXiv cs.CL ↗ · 2026-08-24 缓存

SAC-Copula提出了一种针对扩散语言模型的质量保留水印方法,该方法使用平滑相关的Gumbel场来改善生成质量与可检测性之间的权衡。

0 人收藏 0 人点赞
#detection

我们能否抵御针对现实世界危机事件的AI生成视频攻击?对检测器、生成器和社会传播的系统性评估

Hugging Face Daily Papers ↗ · 2026-08-14 缓存

本文介绍了RA-Bench,一个用于评估现实世界危机事件中AI生成视频检测的新基准,表明当前检测器无法泛化,并在社会传播过程中可靠性降低。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈