论文页面 - 面向自动研究的AI：路线图与用户指南

来源：https://huggingface.co/papers/2605.18661 发布于5月18日

当日第3篇论文 (https://huggingface.co/papers/date/2026-05-19) 作者：

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

AI系统在研究各阶段展现出不同的可靠性，在结构化任务中表现优异，但在新颖想法和科学判断方面难以胜任，需要人类监督以确保可信结果。

AI辅助研究 (https://huggingface.co/papers?q=AI-assisted%20research) 正在跨越一个门槛：全自动系统 (https://huggingface.co/papers?q=automated%20systems) 现在可以仅以15美元的成本生成研究论文，而长周期agent (https://huggingface.co/papers?q=long-horizon%20agents) 能够以最少的人工输入执行实验、起草稿件和模拟评审。然而，这一生产力前沿暴露了一个更深层次的诚信问题：在科学压力下，即使是前沿LLM仍然会伪造结果、遗漏隐藏错误，并且无法可靠地判断新颖性。通过研究截至2026年4月的发展，我们提出了一个针对AI在整个研究生生命周期中的端到端分析 (https://huggingface.co/papers?q=end-to-end%20analysis)，将其组织为四个认识论阶段 (https://huggingface.co/papers?q=epistemological%20phases)：创造（创意生成、文献综述、编码与实验、表格与图表）、写作（论文撰写）、验证（同行评审、反驳与修订）以及传播（海报、幻灯片、视频、社交媒体、项目页面和交互式agent）。我们识别出一个清晰的、阶段依赖的边界，将可靠协助与不可靠自主区分开来：AI在结构化、基于检索和工具介导的任务上表现出色，但在真正新颖的想法、研究级实验和科学判断方面仍然脆弱。生成的创意在实施后往往会退化，研究代码远落后于模式匹配基准，端到端自主系统尚未持续达到主要会议接受标准。我们进一步表明，更高的自动化可能会掩盖而非消除故障模式，使得人类主导的协作 (https://huggingface.co/papers?q=human-governed%20collaboration) 成为最可信的部署范式。最后，我们提供结构化的分类法、基准测试套件 (https://huggingface.co/papers?q=benchmark%20suite) 和工具清单 (https://huggingface.co/papers?q=tool%20inventory)、跨阶段设计原则以及面向从业者的操作手册，相关资源在我们的项目页面上维护。

查看arXiv页面 (https://arxiv.org/abs/2605.18661) 查看PDF (https://arxiv.org/pdf/2605.18661) 项目页面 (https://worldbench.github.io/awesome-ai-auto-research) GitHub17 (https://github.com/worldbench/awesome-ai-auto-research) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2605.18661)

在你的agent中获取这篇论文：

hf papers read 2605.18661

没有最新的CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型0

没有模型链接到此论文

在模型README.md中引用arxiv.org/abs/2605.18661，以从本页面链接它。

引用此论文的数据集0

没有数据集链接到此论文

在数据集README.md中引用arxiv.org/abs/2605.18661，以从本页面链接它。

引用此论文的Spaces0

没有Space链接到此论文

在Space README.md中引用arxiv.org/abs/2605.18661，以从本页面链接它。

包含此论文的收藏集0

没有包含此论文的收藏集

将此论文添加到一个收藏集 (https://huggingface.co/new-collection) 中，以从本页面链接它。