当智能体继承的是模型而非业务时,会发生什么?

Reddit r/AI_Agents 新闻

摘要

一篇反思性文章,探讨如果人工智能智能体没有融入公司独特的运营逻辑,可能会导致企业趋于同质化行为,侵蚀差异化——无论产品或品牌标识多么独特。

我一直琢磨这个问题,想看看它会在哪里崩掉。假设有两家公司。技术栈相似,底层都是前沿模型,智能体承担越来越多的实际工作。一家销售CRM软件,另一家销售机械工具。现在假设这两家公司都没有将使其成为其自身的推理进行编码。那些判断决策。那些“我们不这样做”的规矩。规则背后的原因。风险偏好。人们多年来积累的操作经验,但从未以智能体实际可用的形式记录下来。过一年。我担心的是,智能体会飘向基础模型默认的无论什么方向,因为那是它们唯一一致可用的逻辑。CRM公司和机械工具公司可能仍然有不同的产品、客户和品牌标识。但在运营上,智能体开始以同样的通用方式做出同样的决策。使它们不同的东西从来都不在基础设施或模型里,而在于无人编码的运营逻辑。所以我一直纠结的问题: * 一年后,它们还是两家不同的公司,还是一个穿着两个品牌标识的通用操作系统? * 真正的护城河是否变成了你能将多少运营逻辑变成可执行代码,而不仅仅是你有多少数据或规模? * “治理”这个词是否合适?因为这感觉不像是访问控制、速率限制或安全过滤。更像是让企业特有的推理在智能体执行任务时始终附着于它们所做的事情。这里哪里有问题?这只是抽象概念,还是人们在真实的智能体部署中看到了类似的情况?
查看原文

相似文章

AI代理是否会让公司变得更同质化?

Reddit r/ArtificialInteligence

反思AI代理是否可能因依赖默认模型推理而非编码的业务特定逻辑而导致公司同质化,质疑编码运营逻辑未来的护城河作用。

大多数 AI Agent 的失败是组织设计失败,而非模型失败

Reddit r/AI_Agents

文章认为,生产环境中 AI Agent 的失败往往归因于糟糕的组织设计和模糊的责任边界,而非模型本身的局限性。文章提出了一种成熟度模型,区分了 AI 助手、自动化流程和 AI 员工,以指导任务所有权的确立。