我正在为AI代理构建一个信念数据库。这是一个原型——你有真实数据集可以测试吗?
摘要
Verus 是一个为AI代理设计的开源信念数据库,能够追踪来自多个来源的冲突声明,并附带置信度评分和冲突检测功能;作者正在寻找真实世界的数据集和反馈。
大家好,我正在构建 **Verus** —— 一个为AI代理设计的开源信念数据库。核心理念是:传统数据库存储事实:`user.city = 'Lisbon'`,而 Verus 存储的是 **声明** —— 关于同一事物的多个断言来自不同来源,每个都带有置信度评分、有效期以及冲突检测。它帮助代理决定 **该相信什么**。示例:4个来源对用户位置给出了4种不同说法(CRM显示纽约,用户说里斯本,IP地理位置显示伦敦,日历显示东京)。Verus 追踪全部四个来源及其置信度和有效期,检测矛盾,并通过策略驱动的解决方案将其暴露给代理。原型展示了:
* 冲突图 —— 节点是声明,边是它们之间的矛盾
* 随时间视觉衰减的置信度评分
* 来源过滤(CRM、用户输入、API、文档、代理推理)
* 带有有效窗口的声明时间线
**技术栈:** Rust 核心(二进制存储,单个文件,零依赖)+ MCP 服务器(与 Claude Code、Cursor、VS Code、Windsurf 兼容)+ 用于可视化的 Web 界面。
**我所寻求的:** 我已经用合成数据(24个声明,9个冲突,来自5个来源)构建了这个原型。在进一步深入之前,我想用真实场景进行验证:
1. **你是否有来自多个来源的冲突信息数据集**,我可以用作测试?
2. **你目前在代理中处理冲突数据的方法是什么?** 硬编码规则?LLM 提示?还是其他方法?
3. **你最常遇到的冲突类型是什么** —— 矛盾、数据过时、来源可靠性问题?
对这个概念或原型的任何反馈也都很受欢迎。谢谢!
相似文章
我为 AI 智能体构建了一个记忆层,可随时间追踪信念并处理矛盾,现寻找测试者。
OMEM 是一个面向 AI 智能体的记忆层,能随时间追踪信念、呈现矛盾并保留溯源信息,旨在取代静态的向量存储记忆。作者正在为这个尚未达到生产就绪状态的工具寻找早期测试者。
可信AI的真相:表达怀疑、溯源与信念修正作为可工程化的立场
该论文介绍并评估了一种对话代理的行为层,使其能够进行表达怀疑、具有溯源意识的断言以及信念修正,从而提升AI系统的真实性。
打造了一个开源AI代理事实核查器,只有能提供实际证据支持,主张才会被放行。
构建了一个用于AI代理的开源事实检查器,通过获取实时来源验证主张,并提供真实性和置信度评分,适用于公开和内部文档。
我构建了一个信任引擎,帮助AI智能体逐步实现自主运行
一个开源信任引擎(测试版),帮助AI智能体从引导模式逐步过渡到协同工作再到自主状态,具备决策理由记录和人在回路审批功能,目前正在寻找早期采用者。
智能体作为信念网络(11分钟阅读)
探讨将AI智能体概念化为信念网络,讨论其对AI对齐和代理理解的影响。