立场:科学团队中的AI代理应作为人-代理系统来研究
摘要
本文立场论文认为,科学团队中的AI代理应作为人-代理系统来研究,以增强协作并缓解风险,例如科学探究中多样性的减少。
查看缓存全文
缓存时间: 2026/08/18 03:51
论文页面 - 定位:科学团队中的AI智能体应作为人机系统来研究
来源:https://huggingface.co/papers/2608.14667
发布于8月2日
·
由https://huggingface.co/LeoYML提交
Leo Y (https://huggingface.co/LeoYML)于8月18日
作者:
,
,
,
,
,
,
,
,
,
,
,
摘要
与AI智能体开展科学协作需要研究人机对组,以避免研究多样性降低等风险,并促进协同发现。
基于大语言模型的智能体(https://huggingface.co/papers?q=Large%20language%20model-based%20agents)正越来越多地作为科学发现的协作者被部署,但当前大多数研究聚焦于“AI科学家“(https://huggingface.co/papers?q=AI%20Scientists)的自主能力。我们认为,这种视角忽视了科学团队协作的社会性维度,将AI科学家(https://huggingface.co/papers?q=AI%20Scientists)作为人机系统(https://huggingface.co/papers?q=human-agent%20systems)(HAS)来研究——即以人机对组为分析单元——既未被充分探索,也未受到足够重视。本文通过文献分析与实证研究论证这些观点,并指出近期案例与研究表明:若忽视人机动态(https://huggingface.co/papers?q=human-agent%20dynamics)而部署科研智能体,将带来近期风险,包括科学探索多样性的降低。通过现实案例的分析,我们展示了科学家与智能体如何相互增强能力。我们呼吁开展新研究,以人机系统视角建立数学框架,理解并促进科学发现中的人机协同(https://huggingface.co/papers?q=human-AI%20synergy)。
查看arXiv页面(https://arxiv.org/abs/2608.14667)查看PDF(https://arxiv.org/pdf/2608.14667)添加至收藏夹(https://huggingface.co/login?next=%2Fpapers%2F2608.14667)
引用本文的模型 0
无模型链接本文
在模型README.md中引用arxiv.org/abs/2608.14667,即可从本页面链接该模型。
引用本文的数据集 0
无数据集链接本文
在数据集README.md中引用arxiv.org/abs/2608.14667,即可从本页面链接该数据集。
引用本文的空间 0
无空间链接本文
在空间README.md中引用arxiv.org/abs/2608.14667,即可从本页面链接该空间。
包含本文的收藏夹 0
无收藏夹包含本文
将本文添加至收藏夹(https://huggingface.co/new-collection),即可从本页面链接该收藏夹。
相似文章
人工智能评估应与人类协作
这篇立场论文主张,人工智能评估应转向评估人机团队,而非超人类性能,以促进更好的社会成果。
AI代理将人类排除在决策循环之外
论文指出,当前AI代理系统降低了人类监督能力,并倡导在设计层面进行变革,以支持有效的人机交互,强调保持人类技能的必要性。
立场:行为系统需要行为测试
本文立场论文认为,AI代理必须像行为系统一样,通过系统观察和测试其过程,而不仅仅是性能结果来进行评估,并提出了一个研究议程,以开发严格的行为测试,以增进理解和确保安全。
代理AI在安全关键多无人机系统中的挑战与机遇
本立场文件讨论了将代理AI集成到安全关键多无人机系统中的挑战与机遇,倡导以人为中心的社会技术设计方法,以确保在专业环境中的信任、治理和采用。
@JIACHENLIU8: AI4S 研究现状:自我演进循环、多智能体系统、智能体技能、科学基准等 —— 都是为了提升文献…
本文批评了当前AI for Science(AI4S)研究专注于弥补前沿模型弱点的做法,认为真正的瓶颈在于科学生态系统,而非单个AI科学家的智能。文章呼吁转向从第一性原理构建AI-Native的科学生态系统。