你认为我们对人工智能的哪个部分仍然存在根本性的误解?

Reddit r/artificial 新闻

摘要

本文探讨了令人印象深刻的AI演示与成功的生产系统之间的差距,强调了被忽视的挑战,如数据质量差和评估不佳,并邀请对人工智能根本性误解的意见。

我从事软件和数据领域已久,见证了多次技术革命的兴衰。大多数最终都比营销所暗示的涉及更多的基础工作而更少的神奇之处。AI也开始呈现同样的故事。我对再次讨论LLMs是否令人印象深刻并不特别感兴趣。它们显然很令人印象深刻。我更感兴趣的是,为什么这么多完美的AI演示最终变成了相当平庸的生产系统。我不断看到团队直接跳入RAG、agents、fine-tuning、vector databases、tool calling等。六个月后,他们发现那些不那么令人兴奋的问题实际上才是重要的。数据质量差。评估不佳。需求不明确。无人负责输出。以及当模型自信地做错事时的小问题。这些问题谈论起来远不那么令人兴奋,但它们往往是让你花钱的问题。那么,你认为目前真正被误解的是什么?可以是技术性的,如context windows、retrieval、evaluation或fine-tuning。也可以是更根本的,比如何时根本不应该使用LLM。我特别感兴趣的是你实际遇到的情况,而不是教科书上的答案。哪些在纸上看起来简单,在生产中却完全成了麻烦?
查看原文

相似文章

我在AI项目中经常看到但没人公开讨论的事情

Reddit r/AI_Agents

本文指出,许多AI代理项目在生产环境中失败,并非因为模型质量,而是因为团队在发布前没有明确定义何为失败,忽略了关键边缘案例,导致自信地输出错误结果。