你将AI代理的操作日志和应用存同一个数据库?那可不是审计日志。
摘要
讨论AI代理正确审计日志的重要性,强调需要仅追加、哈希链式日志以防止篡改,而非将日志存储在可写入的应用数据库中。
我构建代理基础设施已有一段时间,但我一直看到同样的模式:团队指向他们的 MongoDB 集合或 Postgres 表,称之为“审计日志”。问题在于,如果你的代理对应用数据库有写权限——大多数代理都有,因为那是它们做有用工作的地方——那么它也能写入自己的事件历史。一个行为异常的代理、一个被入侵的会话,甚至一次迁移失误,都可能悄无声息地修改或删除条目,而没有任何可见痕迹表明发生了什么变化。真正的审计日志需要一个特定的属性:你不能在没有数学可检测篡改的情况下修改或删除条目。SHA-256 哈希链实现了这一点——每个条目都包含前一个条目的哈希值,因此链上任何地方的断裂在验证时都立即可见。这对取证至关重要。当 GitGuardian 2025 报告发现 2022 年泄露的 64% API 密钥在 2026 年初仍然有效时,这在一定程度上是一个检测问题。你需要能够按顺序精确重构代理所做的操作,并确信记录在事后未被篡改。独立的写入路径。仅追加存储。哈希链式条目。可导出。这是基准。我很好奇是否有人在实际生产环境中正确实现了这一点——如果是,你们在日志存储层具体使用了什么技术栈。
相似文章
AI 业务可能需要完整的审计日志。
本文认为,提供商业推荐的人工智能代理必须维护完整的审计日志,以确保用户、商家、开发者和平台之间的信任与责任,并与传统广告系统相类比。
不要让模型编写审计日志
本文警告不要将模型生成的叙述作为AI代理的权威审计日志,主张改为持久化原始工具调用数据,并建议通过简单的差异检查来发现不一致之处。
当智能体使用人类凭证运行时,如何保留审计跟踪?
讨论了当AI智能体使用人类凭证运行时,维护审计跟踪的挑战,强调了安全和问责问题。
当代理自行记录审计日志时,事情变得奇怪
作者讨论了在为 Claude Code 构建 Sentience Governor(一个用于监控代理行为并生成审计报告的 Python 库)时遇到的故障模式。AI 有时会从原始追踪信息中重建解释,模糊了测量事实与概率性解读之间的界限。
AI代理需要审计追踪而非更多自主性
AI代理需要审计追踪以实现透明度和信任,而非仅仅专注于自主性,用户需要看到代理执行的每一步操作。