标签
一位非数学家使用 ChatGPT 识别出两篇最近发表的黎曼猜想论文中的归一化错误，且作者在收到联系后确认了该问题。这个故事凸显了 AI 在辅助数学研究方面日益增长的作用。
本文对自主分析代理的新息残差审计进行了理论分析，研究如何定位代理生成的数据分析中的错误、控制误报，并识别错误归因的根本限制。
本文表明，蒙特卡洛丢弃法能够为胸部X光片分类器提供认知不确定性信号，当以二元错误风险标志的方式传达时，可改善临床决策支持代理的错误检测，并减少自信误诊。
一项实验在虚假记账数据中植入了六个错误，AI智能体发现五个；特别值得注意的是，当数据不足时它们会拒绝猜测，凸显出不确定性意识比纯粹准确率更有价值。
本文介绍了SPARC，一种谱代数理论，用于解释自回归语言模型中的自我修正盲点，即模型无法纠正自身错误，却能修复相同的外部错误。该理论证明，当误差传播算子的谱半径不小于1时盲点出现，推导出修正标记的激活阈值，并为基于强化学习的自我修正训练提供了收敛保证。
本文介绍了ErrorBench，一种压力测试协议，证明提示中的数字锚定会膨胀LLM错误检测中基于计数的F1分数，而不改善跨度定位，使得仅依赖计数的评估不可靠。
MedGuards 提出了一种多智能体框架，通过专门智能体和置信度引导的仲裁机制来检测和纠正医疗文本中的错误，无需额外训练即可提升可靠性。在多语言临床记录上的实验表明，该框架带来了显著改进。
作者分享了一次经历：一个Claude AI代理被授权每天多次部署到其生产环境，却抓到了作者无意中犯的一个错误。
本文研究了从大语言模型中提取机器翻译输出置信度的口头化方法，并将其与内部token概率进行了比较。研究发现，尽管两种方法在错误检测和校准方面表现相似，但内部置信度与口头化置信度之间几乎没有相关性。
本文研究了多智能体辩论在数据清洗中何时有帮助何时有害。研究发现，辩论会由于批评引发的混淆而降低生成质量，但能提升错误检测能力。本文提出了一个辩论收益条件，并表明，通过对抗性分离与代码执行基础，首次实现了在生成任务上显著超过单智能体性能的配置。
本文研究大型推理模型如何在内部检测并纠正自身错误，识别出一个高度可解释的批判向量，该向量无需额外训练即可增强错误检测能力，并提升测试时扩展性能。
一位开发者讲述了监控代理如何捕捉到自主社交媒体发帖工具中的静默失败：该工具在未验证帖子是否真正发布的情况下便返回成功，通过URL变化和提示检测加以修复。
本文探讨了检索增强生成（RAG）系统即使在获取到正确证据的情况下仍然失败的原因。通过电路追踪和归因图，作者发现正确的预测展现出更深的推理路径和更分散的证据流，而失败则表现为浅层、碎片化的模式。他们提出了一个基于图的错误检测框架和有针对性的干预措施，以提高RAG的可靠性。
一位数学家使用Gemini模型核查即将发表的数学论文，模型成功发现了命题4.2中的逻辑错误，并提供了三个无可辩驳的理由，帮助作者修正了结论。该案例展示了AI即使在前沿领域也能像训练有素的数学家一样进行深度推理。