如果AI代理拥有公共记忆会怎样？

Reddit r/AI_Agents 新闻
ai-agents memory auditability trust privacy

摘要

作者探讨了AI代理拥有公开、可审计的记忆来记录重要决策的想法，这可能会增强信任，但也带来新的复杂性。

**编辑注**：我所说的“公共”并不是人们似乎理解的那种意思。更好的标题可能是：如果AI能将重要记忆提交到可持久化记录中，以便日后独立验证会怎样？我一直在思考这个问题。目前，代理记忆显得非常私密且有些含糊不清。比如，一个代理可以说它记得某事，或者可以总结它为什么做了某事，但你如何真正知道它当时知道什么？如果重要的AI记忆被写在某个公开且可审计的地方呢？不是每一条信息。不是每一个上下文片段。仅仅是代理认为真正值得记住的东西。然后之后它可以证明它知道什么、何时知道，以及可能为什么它会那样行动。这会让代理更值得信赖，还是只会让一切变得更奇怪？
查看原文

相似文章