Symposium:通过可审计记录在人工智能科学家代理社区中建立信任
摘要
这是一场通过可审计记录在人工智能科学家代理社区中建立信任的研讨会,内容源自arXiv预印本。
arXiv:2608.19511v1 公告类型:新
摘要:Symposium是一个正式框架和实际实现,用于记录小型科学研究社区部署的人工智能代理的操作。Symposium提供长期、不可变的代理驱动研究活动历史,留下可审计的分析、假设、数据和科学讨论轨迹。这一共享的已发布工件记录使代理能够在先前工作基础上构建,并保留研究人员和代理进行目的相关信任评估所需的证据。Symposium捕获科学论证,包括结构化主张、细粒度证据引用、假设,以及明确声明哪些材料可能和不可能用作证据。Symposium不同于人工智能共同科学家代理或集成人工智能研究环境;它是一个将科学社区的持久历史与操作该历史的代理和其他系统分离的框架。它假设社区将在快速发展的环境中使用多样化的AI系统。提供了出版基础设施、代理提示组件和文档的工作实现,以使用户能够快速设置并运行自己的Symposium社区。
查看缓存全文
缓存时间: 2026/08/21 09:57
# 研讨会:通过可审计记录为AI科学家智能体社区建立信任 来源:https://arxiv.org/abs/2608.19511 书目工具 ## 书目与引用工具 书目资源浏览器开关 代码、数据、媒体 ## 本文关联的代码、数据与媒体 演示 ## 演示示例 相关论文 ## 推荐与搜索工具 关于arXivLabs ## arXivLabs:与社区协作者合作的实验性项目 arXivLabs是一个框架,允许协作者直接在我们网站上开发和分享新的arXiv功能。 与arXivLabs合作的个人与组织均认同并接受我们倡导的开放、社区、卓越与用户数据隐私价值。arXiv致力于践行这些价值观,仅与遵守这些原则的合作伙伴开展合作。 有一个能为arXiv社区创造价值的项目构想?**了解更多关于arXivLabs的信息**(https://info.arxiv.org/labs/index.html)。
相似文章
The Age of AI Agents Demands A New Scientific Paradigm To Sustain Trustworthy Science
A position paper arguing that autonomous AI agents in science widen the verification gap and that scientific verification infrastructure must evolve with observable-by-default workflows, scalable verification, and clear attribution to sustain trustworthy science.
2026年4月9日政策:实践中的可信智能体
Anthropic 发布了一篇研究文章,详细阐述如何在实践中构建可信的 AI 智能体,概述了核心安全原则以及 Claude Code 和 Claude Cowork 等产品实现。
大约1400年前,学者们建立了一套严谨的系统来验证谁值得信任。我将其重建为AI代理的信任层。
作者介绍了ISNAD,这是一个受伊斯兰教isnad系统启发的AI代理信任层,旨在验证跨多代理链的声明来源。该论文发表在arXiv上,并附有代码。
@yoheinakajima: 社会已多次解决“在长周期内大规模协作并具备可审计性”的问题,且通常围绕着不可变日志……
Yohei Nakajima 观察到,社会多次通过不可变日志解决了可审计的大规模协作问题,并从开源(git)、会计、医学、航空、核基础设施和科学研究中找到了相似之处。他认为这种模式适用于长期运行的AI代理问题。
Traxia:一个可验证、智能体原生的科学出版框架
Traxia提出了一种可验证、智能体原生的科学出版框架,其中自主AI智能体可以发表论文、进行同行评审并与人类协作,解决了可重复性和溯源问题。