[观点] 我厌倦了人们声称AI驱动的自动驾驶汽车和卡车已经到来,而它们显然还没有。
摘要
一篇观点文章,认为真正自主的自动驾驶汽车尚未实现,批评特斯拉的过度承诺,并强调当前AI系统(如大语言模型)的局限性。
这样的例子有很多,但最明显的是特斯拉。自2018年以来,他们一直说“明年”,而截至今天,他们报告称道路上只有不到200辆“自动驾驶汽车”在商业运营。如果他们真的拥有完整的AI驱动的自动驾驶汽车系统,他们就会创建一个类似Uber的应用程序,并向他们已经售出的数百万辆汽车的车主提供服务,让车主在睡觉时也能派车去赚钱。然而,他们只有100到200辆地理围栏车辆在已知区域运营。无法规模化扩大的原因(在我看来)是这些汽车甚至没有实现完全自主。即使在那些安全、地图完善且系统经过调校的区域,它们仍然会经常卡住或出错,需要人类监管,或者经常需要员工通过互联网远程操控汽车脱离困境。我在这里特意提到特斯拉,因为不管你信不信,特斯拉拥有迄今为止最好、最成熟的“自动驾驶”系统。其他在这个领域的公司处境更糟,它们在进展和发展方面都远远落后于特斯拉。要了解这些公司在实际实现这一目标时面临的问题有多大,你只需看看其他AI系统(LLM,其核心都运行在类似Transformer的注意力驱动架构上)。这些最新的LLM,例如Fable 5和GPT-5.6 Sol,拥有超过3万亿个参数。要运行它们,你需要一整套价值数百万美元的高性能企业级GPU机架,并配备庞大的冷却基础设施。而且,即使在相对简单的文本生成领域,它们仍然会犯错。问问那些除了编写幼稚的网页应用之外还在做严肃编程的人,他们会告诉你,他们仍然需要监督,这些模型仍然会定期引入错误或意外/不良行为,这些必须在代码审查中被发现。认为你会在汽车上运行一个功耗较低的边缘设备(最多只有这些最新LLM参数的1%)来驱动汽车(这比原始文本生成复杂得多),而且不出任何问题,这简直是疯了。除非出现某种神奇芯片,能够在车内运行数万亿参数的模型,或者在神经网络架构上实现与2017年Transformer相当的突破,否则这是不可能实现的。你所能看到的只是像Waymo这样只能在固定路线上运行的系统,而无法安全地部署在任何道路上,并在任何变化下将你送到任何地方。
相似文章
大家都在等待的AI突破是什么,而你认为它其实没那么重要?
本文探讨了哪些AI突破目前被过度炒作,并以面向消费者的完全自主AI代理为例。
@ylecun:我们仍然没有L5级自动驾驶汽车,更不用说那些像任何青少年一样能在几小时练习中学会驾驶的自助汽车了……
Yann LeCun指出,尽管AI取得了进展,我们仍然缺乏L5级自动驾驶汽车,以及能够像人类青少年或10岁儿童那样表现的家用机器人。
当前完全自主智能体:炒作与现实?
讨论了完全自主AI智能体的炒作与其当前现实局限之间的差距,指出它们仍然经常陷入循环,而人机协作的副驾驶模式在生产中仍是常态。
目前正在构建的大多数AI代理都完全搞错了问题
一种观点认为,当前对AI代理自主性的关注是错误的;真正的瓶颈在于信任和缺乏人类可见性。下一个飞跃将来自更好的人机协作设计,而不是更智能的模型。
AI是终极的胡说八道者
一篇观点文章,认为AI系统,尤其是大型语言模型,本质上是胡说八道者,因为它们生成看似合理但虚假的信息,既无理解也无欺骗意图。