谁决定AI代理可以知道什么？

Reddit r/AI_Agents 新闻
ai-governance data-privacy ai-agents security architecture-patterns enterprise-ai sensitive-data

摘要

作者对谁控制AI代理的数据访问表示担忧，质疑是否已有既定的治理架构，并分享了一个代码库来探讨这个问题。

我能参与关于AI缺点的讨论吗？最让我担心的不是AI本身，而是敏感数据的访问。传统搜索引擎是，你请求信息并获得链接。而AI代理，中间方可以潜在地查询大量数据。那么，谁决定它允许访问什么？这就像有一个巨大的图书馆，AI可以立即找到你寻找的确切章节。有趣的问题不仅是搜索有多好，而是谁决定图书馆里有哪些书，以及谁被允许阅读它们。'使用企业账户'对我来说不像是一个架构性的答案。提供商仍然需要定义数据访问、权限、审计和问责如何工作。在思考这个问题时，我实际上做了一个小代码库，如果不违反任何规则，我可以添加链接。我不是在寻找特定的产品或解决方案。我在想：是否已经有普遍接受的架构或模式来治理AI代理可以访问和对数据做什么？或者我们还在摸索中？
查看原文

相似文章

AI代理应被允许自行决定哪些权限？

Reddit r/AI_Agents

本文讨论了AI代理不应自行授权行动的原则，并探讨了在允许模型独立决策时如何划定界限，强调了审批系统和策略等外部控制手段。

AI 智能体能否正当地治理另一个 AI 智能体？

Reddit r/AI_Agents

探讨在一种架构中——由一个 AI 智能体监控另一个 AI 智能体——所存在的权限鸿沟，质疑 AI 对 AI 的监督究竟是真正的治理，还是仅仅转移了决策负担，以及约束性权力最终应当归属于谁。