人工智能是否应该能够证明它当时知道什么？
摘要
一个思想实验，质疑人工智能系统是否应该维护一个可验证的记忆轨迹，记录其在决策时的知识和信念，以增强信任和问责制。
这可能是一个愚蠢的思想实验，但我一直忍不住思考它。随着人工智能变得越来越自主，它是否应该能够证明自己做出决定时知道什么？不仅仅是事后给出一个漂亮的解释，因为我们都知道模型可以做到这一点，无论它是否真实。我指的是某种实际记忆轨迹。就像版本历史记录，但针对的是人工智能当时所相信或能够获取的信息。这对建立信任和问责制有用，还是过于繁琐？
相似文章
如果AI代理拥有公共记忆会怎样？
作者探讨了AI代理拥有公开、可审计的记忆来记录重要决策的想法，这可能会增强信任，但也带来新的复杂性。
AI智能体应以人类可审计的形式记住哪些信息？
本文探讨了为AI智能体设计可供人类审计的记忆系统，建议引入来源、范围和过期规则等字段，以保持清晰性并防止信息过时。
一个决定保留/遗忘内容的AI‘记忆管理器’实际上可行吗？
一位用户质疑基于重要性、强化和衰减来决定保留或遗忘内容的AI记忆管理器系统的可行性。
真正让你信任AI的是什么？不是“听起来正确”，而是像信任一个人或一个机构那样信任它？
一场讨论，探讨哪些具体条件（透明度、可验证的记录、持久的身份、可问责性）能让人们像信任人类或机构一样信任AI系统，而不仅仅是将其视为工具。
其他人在AI可审计性方面也遇到困难了吗？
作者描述了一个AI可审计性的挑战，其中代理的决策缺乏与活跃策略版本的可追溯性，并就为AI代理决策构建有效决策路径寻求建议。