[D] 你的日志设置不是治理机制。以下是两者的区别。

Reddit r/AI_Agents 新闻
ai-agents observability governance production logging ai-safety best-practices

摘要

讨论可观测性（记录代理行为）与治理（在行动执行前阻止被禁止的操作）之间的区别，强调团队常将两者混为一谈，并应将其视为不同的问题，采用不同的工具来解决。

可观测性告诉你代理做了什么。治理决定它能够做什么。大多数团队混淆了这两个概念，直到生产环境出问题才意识到差距。日志属于事后分析，它们告诉你损害发生后的情况。真正的治理层会在行动执行前进行拦截，并阻止违反规则的行为。那些做得好的团队将两者视为不同的问题，使用不同的工具来处理。好奇大家在这方面是怎么做的，你们是两者兼顾还是仍然只依赖日志？
查看原文

相似文章

大多数智能体可观测性感觉像是崩溃录像

Reddit r/AI_Agents

作者认为，当前的智能体可观测性提供了行动轨迹，但缺乏运行时对行动为何被允许的合理性说明，这对于涉及金钱、数据或通信的生产部署至关重要。

当代理自行记录审计日志时，事情变得奇怪

Reddit r/AI_Agents

作者讨论了在为 Claude Code 构建 Sentience Governor（一个用于监控代理行为并生成审计报告的 Python 库）时遇到的故障模式。AI 有时会从原始追踪信息中重建解释，模糊了测量事实与概率性解读之间的界限。

LLM治理的机械执行：金融决策系统中治理-任务解耦的证据

arXiv cs.CL

本文引入了五项治理指标，用于在受监管金融工作流程中量化LLM在决策理由层面的政策合规性。研究发现，机械执行（在模型解释循环之外操作）将无信息的延迟决策减少了73%，并揭示了治理-任务解耦：纯文本治理在压力下两个维度均退化，而机械执行即使在任务性能下降时仍能保持治理质量。

日志即智能体

Hacker News Top

本文介绍ActiveGraph，这是一个运行时，它将仅追加的事件日志作为智能体系统的中央事实来源，实现确定性重放、廉价分叉以及从目标到模型调用的端到端溯源。