构建了一个真正拒绝幻觉的AI记忆系统
摘要
一位开发者用Python构建了一个定制AI记忆系统,通过基于规则的架构避免幻觉,包含假设测试和巩固阶段,灵感来源于神经调节。
大家好,我一直在进行一个项目。这是一个用Python编写的定制RNS-AI架构,在单个CPU核心上本地运行,使用基本的SQLite数据库。我构建这个系统的主要原因是标准的LLM让我因幻觉和灾难性遗忘而抓狂。它们只是将所有东西合并成一个巨大的统计权重块。如果你问一个问题而模型不知道答案,它只是猜测一些合理的东西来取悦你。如果系统需要用于高风险环境,如医疗决策支持,其中完全的可审计性和清晰的溯源链是强制性的,这就不行了。我的系统基于一个完全不同的规则工作:没有黑箱,没有未经证实的答案,没有词语过滤器。它不使用密集向量,而是在读取时在影子层中存储上下文假设。它从不删除错误或矛盾的数据,因为错误是宝贵的证据。在假设成为公认的事实之前,它必须经历多个慢波睡眠周期。这是一个主动巩固阶段,系统使用随机重放来测试假设随时间是否保持稳定。如果你的查询在数据库中没有已验证的锚点,系统只是报告差距而不是猜测。我故意使用诸如睡眠和神经调节之类的术语,因为代码实际上在算法层面模仿了那些精确的功能机制。例如,动态浮点参数持续调整兴奋、抑制和睡眠压力,以保持系统平衡,而无需梯度下降。在最近的生产测试中,使用664 MB的Wikipedia语料库,它在单个CPU线程上处理了约15.5万个数据块,并跟踪了超过140万个假设,而没有崩溃或损坏其状态。我目前正在验证假设毕业管道,并希望听到你们的想法。你们如何处理参数饱和或在连续学习循环中平衡严格的视线溯源与流畅的泛化?
相似文章
我为我的AI代理构建了一个记忆系统,它真的在工作
一位开发者分享了MnemoBrain,一个让AI代理通过钩子和语义搜索自动记住上下文的记忆系统,无需显式记忆命令。
基于智能体AI、嵌套学习与语义缓存的幻觉缓解及AI可持续性
本文提出了一种记忆增强的多智能体架构,采用嵌套学习、连续记忆系统和语义缓存来缓解LLM流程中的幻觉问题,在显著减少事实错误的同时提高了运营效率。
AI系统,让您监督和指导研究
作者构建了一款AI研究工具,通过严格编排和约束工程减少幻觉,使用户能够监督研究决策并验证来源。
幻觉 = 想象力
一位开发者在构建AI代理封装系统时发现,代理对用户回复的幻觉实际上有助于解决问题,并提议将此类幻觉视为想象中的事件而非错误。
我给我的智能体配备了一种记忆,它拒绝记住无法证明的事物——并能证明它删除了什么
作者为AI智能体构建了一个名为fireweed的记忆层,它使用确定性代码来验证主张与证据,防止幻觉并实现可审计、可证明的记忆删除。