detection

AI生成的社交媒体网红已经变得如此逼真，检测必须从分析图像转向分析行为模式，比如不对称的关注比率和单调的内容。

谷歌的SynthID水印系统被用于揭穿一张伪造的AI生成图像，图像中是参议员米奇·麦康奈尔，这展示了深度伪造检测技术在一场高调恶作剧中的有效性。

对非社交媒体自由文本数据集进行系统综述，用于心理健康障碍检测，识别当前资源中的偏见与空白。

汇集了AI模型说谎或产生幻觉的13种常见方式，以及检测每种行为的具体提示。

本学术论文探讨了在学生与AI协作编程环境中检测认知目标与过程的方法，旨在培养学习者的认知型AI素养。

本文探讨了医疗大语言模型中的幻觉是否可以在神经元层面被检测和控制。作者发现，虽然幻觉信号在众多神经元中可被检测到（AUROC 0.77-0.86），但通过引导这些相同神经元并不容易纠正它们。

《Quanta Magazine》回顾了中微子探测的70年历史，从泡利的假说到像超级神冈探测器（Super-Kamiokande）和冰立方中微子天文台（IceCube）这样的大型实验，这些实验解决了太阳中微子问题并揭示了中微子振荡。

本文研究了语言模型激活中检测行为的向量与控制行为的向量之间的几何关系，发现对于幻觉检测，它们几乎正交（余弦约0.12），而对于输出格式，它们完美对齐，这对机械可解释性中的一个常见假设提出了挑战。

文章探讨了人工智能的进步如何使得检测学生作弊几乎不可能，因为AI生成的内容已与人类作品难以区分。

签名过滤是一种检测时模块，通过学习并移除那些导致水印测试不可靠的“签名”令牌，来提高LLM中统计水印检测的性能，在保持低误报率的同时大幅提升了检测率。

本文认为，人工智能的长期价值可能在于检测与可视化，而非替代人力。文章以雷达的发展以及道丁系统将检测整合进协调反应的历史类比进行论证。

来自Meta和卡内基梅隆大学的这篇论文提出了一种多模态视觉-语言模型管道，用于检测社交媒体上的AI生成内容，实现了最先进的性能，并对用户参与度产生了积极的下游影响。

本文介绍了CIFAR合成证据语料库，这是一个专门用于在法律背景下检测AI生成证据的数据集。该语料库涵盖多种文档类型和篡改策略，包含结构化元数据，并提供了一个用于评估检测系统的基准套件。

用户表达了对于区分真实与AI生成视频的困惑，强调了合成媒体日益逼真的特性。

一项大规模实证研究对284个语言特征在27个大语言模型和10个文本领域中的表现进行了分析，以评估哪些特征能够可靠地检测AI生成文本。研究发现，词汇丰富度指标是跨领域和跨模型最稳健的信号，而许多其他已提出的指标则高度依赖具体上下文。

本文研究开源量化大语言模型的隐藏状态中是否编码了线性可分的真实性信号。在三个7B-8B指令调优模型上，对单个网络中间层的线性探针在幻觉检测基准上达到0.904-1.000 AUROC，优于基于采样的方法。

本文探讨了AI生成写作的现状、检测方法及其对教育和文学的影响，并提及Granta争议事件——一篇被怀疑由AI创作的故事获奖。

介绍了LUNA，一种语言感知的LLM水印方法，实现了跨多语言的非失真嵌入和无模型检测，显著提升了AUROC和困惑度保持。

介绍了SynCred-Bench，这是一个包含600张AI生成的虚假信息图像的基准测试，涵盖六种可信形式类别，表明现有检测器（包括MLLMs、开源AIGC检测器和商业API）表现不佳，人类标注者同样难以识别。

一位用户描述了如何培养出识别ChatGPT写作风格的本能，指出即使经过编辑仍然存在的模式，并通过Lynote AI检测器确认了这一点。