人工智能是否应该能够证明它当时知道什么？
摘要
一个思想实验，质疑人工智能系统是否应该维护一个可验证的记忆轨迹，记录其在决策时的知识和信念，以增强信任和问责制。
这可能是一个愚蠢的思想实验，但我一直忍不住思考它。随着人工智能变得越来越自主，它是否应该能够证明自己做出决定时知道什么？不仅仅是事后给出一个漂亮的解释，因为我们都知道模型可以做到这一点，无论它是否真实。我指的是某种实际记忆轨迹。就像版本历史记录，但针对的是人工智能当时所相信或能够获取的信息。这对建立信任和问责制有用，还是过于繁琐？
相似文章
如果AI代理拥有公共记忆会怎样？
作者探讨了AI代理拥有公开、可审计的记忆来记录重要决策的想法，这可能会增强信任，但也带来新的复杂性。
一个决定保留/遗忘内容的AI‘记忆管理器’实际上可行吗？
一位用户质疑基于重要性、强化和衰减来决定保留或遗忘内容的AI记忆管理器系统的可行性。
真正让你信任AI的是什么？不是“听起来正确”，而是像信任一个人或一个机构那样信任它？
一场讨论，探讨哪些具体条件（透明度、可验证的记录、持久的身份、可问责性）能让人们像信任人类或机构一样信任AI系统，而不仅仅是将其视为工具。
如果你无法纠正AI的信念，那你拥有的就不是记忆系统，而只是一个只写日志。
本文批评当前AI记忆系统仅仅只是无法被纠正、更新或溯源至来源的只写日志，认为真正的记忆需要一个治理层。
重新审视AI意识
一场哲学讨论，质疑人类能否以当前AI无法做到的方式客观证明自己的意识，强调了这种证明的主观性。