论文页面 - Mechanist：AI作为发现智能机制的科学仪器

Source: https://huggingface.co/papers/2608.12036

作者：

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

Mechanist是一个自主智能体系统，利用AI来发现并控制模型智能背后的机制，生成假设、进行因果干预，并提升安全性与性能。

AI模型已在多个领域取得显著成功，但其能力背后的机制以及可能带来的风险仍鲜为人知。随着AI开发速度加快且日益自动化，机制探索仍主要依赖人工，这拉大了模型能力与我们理解和控制它们的能力之间的差距。为了弥合这一差距，我们提出了Mechanist——一个将AI用作科学仪器、自主发现AI智能背后机制的智能体系统。为了支持自主机制发现，我们构建了一个以可解释性为中心的知识图谱（https://huggingface.co/papers?q=knowledge%20graph），包含约13,000篇论文，并将其与一个涵盖26个领域的4,300万篇论文的多学科数据库集成。我们进一步整理了一个包含32种基础方法的库，用于机制分析（https://huggingface.co/papers?q=mechanism%20analysis）、因果干预（https://huggingface.co/papers?q=causal%20intervention）和验证。与Claude Code及现有AI科学家系统相比，Mechanist能生成更有价值的机制假设，并更可靠地执行实验。Mechanist还展示了从发现模型行为到解释和控制AI模型的进展。具体来说，Mechanist首先在科学实验室中发现了一个反直觉的安全风险，表明不安全的特征可以通过看似安全的训练数据跨模态转移。随后，Mechanist发展了一套信念的机制理论，揭示了模型如何表征世界知识、形成信念、推断他人信念，以及这些机制如何在预训练过程中涌现。最后，Mechanist将这些机制洞见转化为实际干预措施，在多种场景下提升模型性能，并引导科学基础模型（https://huggingface.co/papers?q=scientific%20foundation%20models）生成具有指定属性的DNA序列。

查看arXiv页面（https://arxiv.org/abs/2608.12036）查看PDF（https://arxiv.org/pdf/2608.12036）项目页面（http://mechanist.openkg.cn/）GitHub18（https://github.com/zjunlp/Mechanist）添加到收藏（https://huggingface.co/login?next=%2Fpapers%2F2608.12036）

引用此论文的模型0

没有模型关联此论文

在模型README.md中引用arxiv.org/abs/2608.12036，即可从本页面关联它。

引用此论文的数据集0

没有数据集关联此论文

在数据集README.md中引用arxiv.org/abs/2608.12036，即可从本页面关联它。

引用此论文的Space0

没有Space关联此论文

在Space README.md中引用arxiv.org/abs/2608.12036，即可从本页面关联它。

包含此论文的收藏0

没有收藏包含此论文

将此论文添加到收藏（https://huggingface.co/new-collection），即可从本页面关联它。