面向科学的机器学习自动化:前沿智能体能否在真实环境中攀登科学高峰?
摘要
Agent4Sci 通过跨 11 个领域的 20 个科学机器学习基准评估前沿编码智能体,发现它们主要靠工程技巧而非领域洞察提升性能,而轻量插件技能可显著改善表现(Claude Opus 从 10.4% 提升至 20.1%)。
查看缓存全文
缓存时间: 2026/10/22 15:39
论文页面 - 科学机器学习自动化:前沿智能体能否在真实环境中攀登科学高峰?
来源:https://huggingface.co/papers/2610.28763
摘要
Agent4Sci 在科学机器学习基准上评估前沿编程智能体,发现它们主要通过工程技巧而非领域洞见来改善结果,而有针对性的技能可显著提升性能.
前沿编程智能体越来越多地被视为端到端的自动化研究者,而科学机器学习为这一愿景提供了严苛的检验:改进科学模型往往需要超越常规机器学习工程的领域洞见. 我们推出 Agent4Sci (https://huggingface.co/papers?q=Agent4Sci),这是一个长时程测试平台 (https://huggingface.co/papers?q=long-horizon%20testbed),用于衡量当今智能体能在多大程度上改进科学机器学习基准 (https://huggingface.co/papers?q=scientific%20ML%20benchmarks)上已发表的最佳模型,涵盖 11 个领域的 20 项基准. Agent4Sci (https://huggingface.co/papers?q=Agent4Sci) 并不在排行榜上对智能体进行排名,而是探究智能体在真实环境条件下能够在这些任务上取得哪些进展,以及它们存在哪些不足. 实证结果表明,当今的前沿智能体在每项基准上都超越了已发表的最佳结果,其中 Claude Opus 的平均相对提升达到 10.4%,且没有任何一次运行被标记为存在学术不端行为. 然而,这些提升几乎完全来自一系列机器学习工程技巧 (https://huggingface.co/papers?q=ML-engineering%20tricks),而非研究层面的洞见. 轨迹分析揭示了这一环境下反复出现的三项局限:对新颖性的判断失准 (https://huggingface.co/papers?q=novelty%20miscalibration)、资源利用不足 (https://huggingface.co/papers?q=resource%20under-utilization),以及迅速陷入局部工程参数扫描 (https://huggingface.co/papers?q=local%20engineering%20sweeps). 用于研究构思 (https://huggingface.co/papers?q=research%20ideation)、实验管理 (https://huggingface.co/papers?q=experiment%20management)和定期检查清单的轻量级插件技能 (https://huggingface.co/papers?q=plug-in%20skills),将 Claude Opus 的提升幅度从 10.4% 提高到 20.1%,将 Codex 从 4.4% 提高到 8.1%,同时带来更多样化、更贴合领域的改进措施. Agent4Sci (https://huggingface.co/papers?q=Agent4Sci) 为社区提供了一种途径,用于追踪并推动前沿智能体在现实世界的科学机器学习问题上,从机器学习工程迈向领域洞见. 代码和数据已在 GitHub (https://github.com/maszhongming/agent4sci (https://huggingface.co/papers?q=agent4sci)) 和 Hugging Face (https://huggingface.co/datasets/MingZhong/agent4sci (https://huggingface.co/papers?q=agent4sci)) 上公开.
查看 arXiv 页面 (https://arxiv.org/abs/2610.28763)查看 PDF (https://arxiv.org/pdf/2610.28763)GitHub1 (https://github.com/maszhongming/agent4sci)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.28763)
在你的智能体中获取这篇论文:
hf papers read 2610\.28763
还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用这篇论文的模型0
没有链接到这篇论文的模型
在模型的 README.md 中引用 arxiv.org/abs/2610.28763,即可从此页面链接到该模型.
引用这篇论文的数据集1
MingZhong/agent4sci 更新于约 11 小时前 • 93 (https://huggingface.co/datasets/MingZhong/agent4sci)
引用这篇论文的 Spaces0
没有链接到这篇论文的 Space
在 Space 的 README.md 中引用 arxiv.org/abs/2610.28763,即可从此页面链接到该 Space.
收录这篇论文的合集0
没有收录这篇论文的合集
将这篇论文添加到合集 (https://huggingface.co/new-collection),即可从此页面链接到该合集.
相似文章
@OkhayIea: 每个人都在竞相构建“AI科学家”。因此我们提出了一个直白的问题:当今最好的编码代理能打败公开发表的…
介绍了NatureBench,这是一个跨学科基准测试,包含来自Nature论文的90个任务,用于测试AI编码代理。研究发现,最好的代理(Claude Opus 4.7)仅在17.8%的任务上超越了现有最佳水平,而且其成功往往是通过将科学简化为监督式机器学习,而非真正的发现来实现的。
FrontierCS 2:计算机科学研发基准
FrontierCS 2 推出了一项包含 48 个开放式计算机科学研发任务的基准测试,将大语言模型智能体置于真实的研究代码仓库中,并使用隐藏的评估套件进行测试;表现最好的智能体 Claude Opus 5.5 也仅在约 58% 的运行中通过测试。
跨尺度科学挑战的AI智能体基准测试
介绍SciAgentArena,一个约200个任务的基准测试,用于评估真实科学研究中的AI智能体。发现智能体在明确指定的数据分析工作流程中表现有效,但在产生新颖见解和开放式探索方面存在困难。
@rohanpaul_ai: 当前前沿智能体在现实自动化方面的准备程度远不及它们在基准测试中的分数所暗示的那样。本文提…
本文介绍了“智能体最终考试”(Agents' Last Exam),这是一个测试AI智能体在55个数字工作领域中进行真实专家工作能力的基准。目前最强的智能体在大多数任务上失败,在最难的层级中平均通过率仅为2.6%,揭示了基准分数与现实世界自动化准备程度之间的巨大差距。
超越最终分数:长期AI研发智能体的系统性评估
本文系统评估了七个前沿AI智能体在长期任务上的表现,发现它们更像是工程优化器而非自主研究者,并提出了改进训练和经验管理的建议。