AI Agent 审计？

Reddit r/AI_Agents 新闻
ai-agents audit compliance production governance undocumented

摘要

一位实践者分享了对即将到来的审计可能揭示未记录在生产环境中的AI Agent的担忧，强调了治理缺口以及客户PII访问的风险。

我们大约90天后有一次审计，昨天我的同事试图整理一份在我们生产环境中运行的所有AI Agent的完整列表。三个不同的团队都在LangGraph上推出Agent，另外还有增长团队的一个家伙在Retool中构建了一个支持分类Agent，工程部从未批准过。我们总共数出了9个Agent。我们的内部库存文档上次更新是在二月，列出了4个。其中两个未记录的Agent对同一个包含客户PII的Postgres实例拥有写权限，如果你现在问我上周二哪个Agent修改了某个特定记录，我得联系三个工程师，希望其中有人记得。上一个周期，我们的审计员没有问过一个关于AI系统的问题。这是我第一年看到这种情况。你们在审计中是否也发现了类似的担忧？
查看原文

相似文章

AI代理被其他AI代理治理，没什么好看的

Reddit r/artificial

Cognizant 与 ServiceNow 合作部署 Guardian 代理，用于监控生产环境中的 AI 代理，而 NIST 和欧盟等监管机构仍在制定框架——凸显了 AI 治理中的执行差距。