每个人都在谈论AI智能体,但几乎没人谈论智能体泛滥的问题。

Reddit r/AI_Agents 新闻

摘要

本文重点介绍了B2B组织中正在出现的“智能体泛滥”问题:公民开发者临时构建AI智能体,缺乏集中治理,导致安全风险和效率低下。文章提出了一种统一平台来规模化地管理智能体。

每个人都在谈论AI智能体,但很少有人谈论智能体泛滥。过去几周,我们与数十家B2B公司进行了交流,这些公司在销售、营销、产品、工程、支持等各个领域都部署了智能体。一些模式反复出现:• 团队成员(公民开发者)在没有监督的情况下构建智能体 • 没有集中的构建场所,团队在Claude Code、Codex、n8n、Zapier、Cursor、自定义脚本和内部工具中随意搭建,毫无一致性 • 许多智能体运行在个人笔记本电脑或私有GitHub仓库上 • API密钥和凭证泄露到提示词和代码中 • 敏感客户数据(PII)被提供给前沿模型,而非本地部署的模型 • 智能体默认拥有广泛权限,令牌没有过期或治理机制 • LLM被到处使用于一切任务,即使简单的确定性工作流更便宜、更快、更可靠 • 没有集中的方式去部署、监控、审计或调试智能体 结果呢?公司认为自己正在推动AI采用。但实际上,他们只是在全公司范围内制造附带LLM的“影子混乱”。大多数组织尚未感受到痛苦。目前模型成本足够低(获得大量补贴),以至于低效容易被忽略。几个智能体每月消耗几百万个令牌并不会造成大问题。但当5个智能体变成50个或500个时呢?突然间,每一个不必要的提示、每一个递归循环、每一个设计不佳的智能体工作流、每一个本应是if-else规则的智能体,都会在损益表上显现出来。而且很明显,OpenAI和Anthropic在IPO后将面临巨大的估值增长压力。我们正在探索一个统一平台,帮助B2B组织规模化地管理智能体:构建、部署、调试、审计、监控业务性能和成本节省,并提供实时警报和提示,使智能体更安全、高效。所有功能集中在一个地方。目标不是帮助公司构建更多智能体,而是帮助他们安全、高效、完全透明地运行数百个智能体。我们特别希望听到那些在未来一年内积极将智能体集成到内部流程中的团队的声音,以及AI采用是公司战略核心部分的团队。这样的平台对您的组织有用吗?如果有用,请留言或私信我。
查看原文

相似文章

AI智能体中最无聊的部分:没人构建,人人都需要

Reddit r/artificial

一位实践者回顾了在生产环境中部署AI智能体的经历,指出80%的工程精力花费在工作流、所有权和审批流程上,而非模型本身。他强调,共享上下文和路由这些“无聊层”对于产生实际影响至关重要。

AI智能体容易构建,但问责更难。

Reddit r/AI_Agents

一篇观点文章认为,对于小型企业中的AI智能体,真正的挑战在于治理和问责,而不仅仅是能力。它强调了有限行动、角色感知权威和清晰的人类监督的必要性。

AI代理的商业演变

Reddit r/AI_Agents

文章描述了AI代理的商业演变:从最初被人类用作工具,到成为组织工作流程的一部分,最终直接向市场提供服务,可能颠覆传统的服务层。

当底层业务流程存在问题,如何在生产工作流中扩展AI代理?

Reddit r/AI_Agents

一位实践者分享了在生产环境中扩展多智能体AI系统所面临的挑战,包括处理影子工作流(未记录的Slack线程和电子表格)、跨系统(ERP到CRM)的上下文丢失,以及跨部门所有权问题。他们向经历过这些现实问题的人寻求建议。