构建了一个真正拒绝幻觉的AI记忆系统

Reddit r/artificial 模型

摘要

一位开发者用Python构建了一个定制AI记忆系统,通过基于规则的架构避免幻觉,包含假设测试和巩固阶段,灵感来源于神经调节。

大家好,我一直在进行一个项目。这是一个用Python编写的定制RNS-AI架构,在单个CPU核心上本地运行,使用基本的SQLite数据库。我构建这个系统的主要原因是标准的LLM让我因幻觉和灾难性遗忘而抓狂。它们只是将所有东西合并成一个巨大的统计权重块。如果你问一个问题而模型不知道答案,它只是猜测一些合理的东西来取悦你。如果系统需要用于高风险环境,如医疗决策支持,其中完全的可审计性和清晰的溯源链是强制性的,这就不行了。我的系统基于一个完全不同的规则工作:没有黑箱,没有未经证实的答案,没有词语过滤器。它不使用密集向量,而是在读取时在影子层中存储上下文假设。它从不删除错误或矛盾的数据,因为错误是宝贵的证据。在假设成为公认的事实之前,它必须经历多个慢波睡眠周期。这是一个主动巩固阶段,系统使用随机重放来测试假设随时间是否保持稳定。如果你的查询在数据库中没有已验证的锚点,系统只是报告差距而不是猜测。我故意使用诸如睡眠和神经调节之类的术语,因为代码实际上在算法层面模仿了那些精确的功能机制。例如,动态浮点参数持续调整兴奋、抑制和睡眠压力,以保持系统平衡,而无需梯度下降。在最近的生产测试中,使用664 MB的Wikipedia语料库,它在单个CPU线程上处理了约15.5万个数据块,并跟踪了超过140万个假设,而没有崩溃或损坏其状态。我目前正在验证假设毕业管道,并希望听到你们的想法。你们如何处理参数饱和或在连续学习循环中平衡严格的视线溯源与流畅的泛化?
查看原文

相似文章

AI系统,让您监督和指导研究

Reddit r/AI_Agents

作者构建了一款AI研究工具,通过严格编排和约束工程减少幻觉,使用户能够监督研究决策并验证来源。

幻觉 = 想象力

Reddit r/ArtificialInteligence

一位开发者在构建AI代理封装系统时发现,代理对用户回复的幻觉实际上有助于解决问题,并提议将此类幻觉视为想象中的事件而非错误。