贵组织如何处理自主系统的审计与合规问题?

Reddit r/AI_Agents 新闻

摘要

一位实践者详细阐述了自主AI代理在审计、合规和治理方面面临的实际挑战,包括身份识别、审批、日志记录和问责机制,并向社区寻求解决方案。

显然,我的新全职工作就是向非常严肃的成年人解释:那个能花钱、给客户发邮件、创建Jira工单的自主工作流,绝不仅仅是一个带点“感觉”的宏。领导层想要能端到端采取行动的自主系统。一提到审计追踪或审批,就被说成阻碍创新。目前,我们的治理模型是一个叫“AI护栏最终版最终V7”的Google文档,没人看;一个Confluence页面,有人复制粘贴了NIST AI RMF并称之为框架;还有一个电子表格,本应是代理的系统记录,实际上却成了半成品概念验证的坟墓。与此同时,这些系统像一只有root权限的咖啡因过量的实习生一样串联工具,调用我们不知道存在的内部API,用法律部门从未批准的措辞发送邮件。安全部门想要可追溯性和日志,显示谁或什么在什么策略下采取了什么行动。法务部门想要可解释性和决策溯源。财务部门想要成本归属。产品部门想昨天就发布。我只想知道上周二哪个非人类批准了4万美元的开支。我们总听到“把代理当成用户对待”:身份、短期令牌、最小权限、活动日志、敏感操作中的人工介入。这与当前关于代理身份和代理令牌的指导一致。但实际上,身份和访问管理已经被人为账户和服务账户压得喘不过气,审计员即将看到SOX控制措施上写着“由fulfillment_routing_agent_prod批准变更”。我仍然没有看到一个视图能告诉我:这个代理运行了,使用了这些工具,接触了这些数据,如果出了问题,这个人负责。至今没人回答我的问题是:到底是什么在运行时强制实施审批步骤,而不仅仅是事后记录;以及是否有人解决了日志完整性,让审计员相信追踪记录在操作后不可编辑。对于已经过了PPT阶段的人:你们在日常工作中是如何处理审计追踪、身份、审批和策略执行,同时让安全、合规和工程都能正常运作的?如果有可用的方案,最大的痛点是什么——身份、日志记录,还是让审计员接受它?
查看原文

相似文章

AI Agent 审计?

Reddit r/AI_Agents

一位实践者分享了对即将到来的审计可能揭示未记录在生产环境中的AI Agent的担忧,强调了治理缺口以及客户PII访问的风险。