将1200年历史的伊斯兰圣训验证方法改编为多智能体AI系统的信任框架

Reddit r/artificial 工具
hadith-verification trust-framework multi-agent-ai ai-safety open-source python-package isnad

摘要

作者将古典伊斯兰圣训验证方法改编为多智能体AI系统的信任框架，并以论文和Python包（isnad）的形式发布。

当一个多智能体AI系统回答你时，这个回答已经经过了多个“环节”——抓取器、输入模型、合成模型。每个环节都可能扭曲或生成内容。当前工具会记录发生了什么，但没有任何工具能够评价是谁转化了一个主张，或者结果的可信度有多高。古典伊斯兰圣训研究花费了大约1200年时间解决一个结构上完全相同的问题：是否信任通过人类叙述者链条传递的知识。他们的解决方案是：给每个传送者打分，根据链条最薄弱的环节评判整条链，要求独立的佐证，并分别批评内容和链条——这惊人地清晰地映射到AI流水线上。所以我构建了它：一个框架、一篇论文（含DOI）和一个Python包（pip install isnad）。我正在公开开发，并诚实地说明哪些是经过验证的，哪些仍处于实验阶段。初步结果显示核心评分机制有效，但完整流水线的验证仍在进行中。我是一名独立研究者，因此非常欢迎批评指正！https://doi.org/10.5281/zenodo.21211291
查看原文

相似文章

2026年4月9日政策：实践中的可信智能体

Anthropic Research

Anthropic 发布了一篇研究文章，详细阐述如何在实践中构建可信的 AI 智能体，概述了核心安全原则以及 Claude Code 和 Claude Cowork 等产品实现。