你的AI记忆的可信度分数是嵌入模型的外键,该模型可能在六个月后不复存在。

Reddit r/AI_Agents 新闻

摘要

关于AI记忆系统的一个关键观察:当模型被替换时,与嵌入模型绑定的可信度分数会失效,而由于嵌入向量发生变化,重新校准也变得毫无意义。作者质疑是否有人在不重建信任逻辑的情况下解决了这个问题。

更换模型,重新索引,六个月积累的校准在一夜之间变得毫无意义。输出仍然看起来合理。这才是最要命的地方。是否有人真的在不从头重建信任逻辑的情况下解决了这个问题?
查看原文

相似文章

AI身份能否从外部记忆结构中涌现?

Reddit r/AI_Agents

一份研究报告,详细描述了构建外部记忆架构的受控实验,该架构能够实现独立于模型权重的持久性AI身份。研究发现,在三种拓扑结构中,积累的片段历史在塑造输出方面始终主导系统提示。