立场:科学团队中的AI代理应作为人-代理系统来研究
摘要
本文立场论文认为,科学团队中的AI代理应作为人-代理系统来研究,以增强协作并缓解风险,例如科学探究中多样性的减少。
查看缓存全文
缓存时间: 2026/08/18 03:51
论文页面 - 定位:科学团队中的AI智能体应作为人机系统来研究
来源:https://huggingface.co/papers/2608.14667
发布于8月2日
·
由https://huggingface.co/LeoYML提交
Leo Y (https://huggingface.co/LeoYML)于8月18日
作者:
,
,
,
,
,
,
,
,
,
,
,
摘要
与AI智能体开展科学协作需要研究人机对组,以避免研究多样性降低等风险,并促进协同发现。
基于大语言模型的智能体(https://huggingface.co/papers?q=Large%20language%20model-based%20agents)正越来越多地作为科学发现的协作者被部署,但当前大多数研究聚焦于“AI科学家“(https://huggingface.co/papers?q=AI%20Scientists)的自主能力。我们认为,这种视角忽视了科学团队协作的社会性维度,将AI科学家(https://huggingface.co/papers?q=AI%20Scientists)作为人机系统(https://huggingface.co/papers?q=human-agent%20systems)(HAS)来研究——即以人机对组为分析单元——既未被充分探索,也未受到足够重视。本文通过文献分析与实证研究论证这些观点,并指出近期案例与研究表明:若忽视人机动态(https://huggingface.co/papers?q=human-agent%20dynamics)而部署科研智能体,将带来近期风险,包括科学探索多样性的降低。通过现实案例的分析,我们展示了科学家与智能体如何相互增强能力。我们呼吁开展新研究,以人机系统视角建立数学框架,理解并促进科学发现中的人机协同(https://huggingface.co/papers?q=human-AI%20synergy)。
查看arXiv页面(https://arxiv.org/abs/2608.14667)查看PDF(https://arxiv.org/pdf/2608.14667)添加至收藏夹(https://huggingface.co/login?next=%2Fpapers%2F2608.14667)
引用本文的模型 0
无模型链接本文
在模型README.md中引用arxiv.org/abs/2608.14667,即可从本页面链接该模型。
引用本文的数据集 0
无数据集链接本文
在数据集README.md中引用arxiv.org/abs/2608.14667,即可从本页面链接该数据集。
引用本文的空间 0
无空间链接本文
在空间README.md中引用arxiv.org/abs/2608.14667,即可从本页面链接该空间。
包含本文的收藏夹 0
无收藏夹包含本文
将本文添加至收藏夹(https://huggingface.co/new-collection),即可从本页面链接该收藏夹。
相似文章
人工智能评估应与人类协作
这篇立场论文主张,人工智能评估应转向评估人机团队,而非超人类性能,以促进更好的社会成果。
@JIACHENLIU8: AI4S 研究现状:自我演进循环、多智能体系统、智能体技能、科学基准等 —— 都是为了提升文献…
本文批评了当前AI for Science(AI4S)研究专注于弥补前沿模型弱点的做法,认为真正的瓶颈在于科学生态系统,而非单个AI科学家的智能。文章呼吁转向从第一性原理构建AI-Native的科学生态系统。
AgentPanel:迈向人机协作探索科学问题的新范式
AgentPanel 是一个用于科学探索中人机协作的多代理论坛系统,使异构代理能够异步讨论研究问题。评估表明,它优于集中式多代理辩论,并且 65% 的参与者更倾向于使用它进行早期探索。
The Age of AI Agents Demands A New Scientific Paradigm To Sustain Trustworthy Science
A position paper arguing that autonomous AI agents in science widen the verification gap and that scientific verification infrastructure must evolve with observable-by-default workflows, scalable verification, and clear attribution to sustain trustworthy science.
AI安全需要社会科学家
OpenAI主张AI安全研究中的价值对齐需要社会科学家的帮助,以解决人类认知偏差和不一致如何影响用于训练AI系统的数据的问题。该组织提议通过仅涉及人类的实验方法来发现对齐问题,然后再部署机器学习解决方案。