你认为我们对人工智能的哪个部分仍然存在根本性的误解?
摘要
本文探讨了令人印象深刻的AI演示与成功的生产系统之间的差距,强调了被忽视的挑战,如数据质量差和评估不佳,并邀请对人工智能根本性误解的意见。
我从事软件和数据领域已久,见证了多次技术革命的兴衰。大多数最终都比营销所暗示的涉及更多的基础工作而更少的神奇之处。AI也开始呈现同样的故事。我对再次讨论LLMs是否令人印象深刻并不特别感兴趣。它们显然很令人印象深刻。我更感兴趣的是,为什么这么多完美的AI演示最终变成了相当平庸的生产系统。我不断看到团队直接跳入RAG、agents、fine-tuning、vector databases、tool calling等。六个月后,他们发现那些不那么令人兴奋的问题实际上才是重要的。数据质量差。评估不佳。需求不明确。无人负责输出。以及当模型自信地做错事时的小问题。这些问题谈论起来远不那么令人兴奋,但它们往往是让你花钱的问题。那么,你认为目前真正被误解的是什么?可以是技术性的,如context windows、retrieval、evaluation或fine-tuning。也可以是更根本的,比如何时根本不应该使用LLM。我特别感兴趣的是你实际遇到的情况,而不是教科书上的答案。哪些在纸上看起来简单,在生产中却完全成了麻烦?
相似文章
演示差距是目前AI产品中最被低估的问题
文章讨论了AI产品在演示中表现完美,但在实际使用中由于输入混乱和边缘情况而失败的问题,强调弥合这一差距对于建立用户信任至关重要。
人们认为AI擅长…但实际上并不擅长的事情是什么?
一个关于AI能力常见误解的讨论问题。
我在AI项目中经常看到但没人公开讨论的事情
本文指出,许多AI代理项目在生产环境中失败,并非因为模型质量,而是因为团队在发布前没有明确定义何为失败,忽略了关键边缘案例,导致自信地输出错误结果。
人们对Agentic AI最大的误解是什么?
本文探讨了Agentic AI中常见的误解,强调了理论假设与实际生产挑战之间的差距,并邀请从业者分享他们的经验。
AI 代理在生产环境中通常首先犯什么错误?
本文讨论了 AI 代理在生产环境中的常见问题,如处理不完整的上下文、API 失败和状态管理,强调系统设计往往比模型决策更重要。