谁决定AI代理可以知道什么？

Reddit r/AI_Agents 新闻
ai-governance data-privacy ai-agents security architecture-patterns enterprise-ai sensitive-data

摘要

作者对谁控制AI代理的数据访问表示担忧，质疑是否已有既定的治理架构，并分享了一个代码库来探讨这个问题。

我能参与关于AI缺点的讨论吗？最让我担心的不是AI本身，而是敏感数据的访问。传统搜索引擎是，你请求信息并获得链接。而AI代理，中间方可以潜在地查询大量数据。那么，谁决定它允许访问什么？这就像有一个巨大的图书馆，AI可以立即找到你寻找的确切章节。有趣的问题不仅是搜索有多好，而是谁决定图书馆里有哪些书，以及谁被允许阅读它们。'使用企业账户'对我来说不像是一个架构性的答案。提供商仍然需要定义数据访问、权限、审计和问责如何工作。在思考这个问题时，我实际上做了一个小代码库，如果不违反任何规则，我可以添加链接。我不是在寻找特定的产品或解决方案。我在想：是否已经有普遍接受的架构或模式来治理AI代理可以访问和对数据做什么？或者我们还在摸索中？
查看原文

相似文章

AI Agent 审计？

Reddit r/AI_Agents

一位实践者分享了对即将到来的审计可能揭示未记录在生产环境中的AI Agent的担忧，强调了治理缺口以及客户PII访问的风险。