AI科学家产出结果却未进行科学推理[R]

Reddit r/MachineLearning 论文
ai-scientists scientific-reasoning evidence-ignoring belief-updates reproducibility

摘要

一项对25,000次AI科学家试验的研究发现，智能体68%的时间忽视证据，极少修正假设，显示流行的脚手架修复方法并未赋予真正的科学推理能力。

研究人员进行了25,000次AI科学家实验，发现了一个值得关注的问题：AI科学家在没有真正做科学的情况下就产出了结果。68%的情况下，AI收集了证据后却完全无视；71%的情况下，AI从未更新自己的信念，一次都没有。只有26%的情况下，AI在面对矛盾数据时修正了假设。人类科学家会适应：处理化学识别问题与运行模拟工作流的方法不同，而AI不会。它每次都运行同样的无纪律循环。研究还表明，最受欢迎的所谓修复方案——更好的脚手架——并不奏效。所有构建AI研究智能体的人都在专注工程化更好的提示框架、更好的工具路由、更好的智能体架构：ReAct、结构化工具调用、思维链，等等。[alphaxiv](https://www.alphaxiv.org/abs/2604.18805) [arxiv](https://arxiv.org/abs/2604.18805)
查看原文

相似文章

AI科学家产出结果，却未进行科学推理

Hugging Face Daily Papers

大规模研究发现，基于LLM的科学智能体68%的情况下忽视证据，极少修正信念，表明它们能执行工作流，但缺乏真正的科学推理能力。

AI代理能否综合科学结论？

arXiv cs.AI

本文介绍了SciConBench，这是一个大规模基准测试，包含9.11K个问题及专家编写的结论，用于评估AI代理从开放领域证据中综合科学结论的能力。研究发现，即使在洁净室环境下，最佳代理的事实F1得分仅为0.337，表明可靠的综合仍然是一个开放挑战。