有人想了解先进公司是如何在实际生产环境中运行AI代理的吗?

Reddit r/AI_Agents 新闻

摘要

作者在一家AI基础设施公司工作,观察到在实际生产环境中运行AI代理更多是关于环境、访问控制、隔离和安全状态管理,而非模型本身,并询问社区是否想要详细的架构模式。

大家好,我写这篇是想看看这里的人是否想要更多关于公司实际如何在内部运行代理的真实案例分析——不仅仅是随机的营销文章。我在一家AI基础设施公司工作,最近变得非常明显的一点是,一旦代理开始与真实系统交互,难点就不再是模型本身。而是: 1. 代理运行的环境是什么 2. 它被允许访问什么 3. 如何隔离凭据 4. 如何安全地验证更改 5. 如何阻止不良状态到处传播 我们在客户那里看到的许多更先进的设置基本上是把代理当作不可信的基础设施工作负载来对待:隔离沙箱、热执行池、限定范围的凭据、临时环境、每个代理的工具配置,以及跨Slack/GitHub/CLI等的编排。 这个领域仍在发展。Anthropic已经开始更多谈论沙箱化,减少影响范围是这个行业自然的发展方向。 如果有人感兴趣,我很乐意分享实际的架构模式/用例,我也可以链接公开的客户案例,或者与正在构建类似东西的人通话。似乎每个在从事这方面工作的人现在都独立地重新发现相同的基础设施/安全教训。
查看原文

相似文章