@karpathy:把四月份的这条推文翻出来,因为大家对 LLM 能力的认知差距正在*扩大*。现在已经……

X AI KOLs 新闻

摘要

Andrej Karpathy 认为,人们对 LLM 能力的共同认知差距正在扩大,形成一个急剧收窄的漏斗:约 60 亿人几乎没用过 LLM,10 亿至 20 亿人是偶尔使用免费版的用户,看到的是“傻乎乎的聊天机器人”;约 2000 万数学和编程领域的专业人士体验到智能体通过提示词完成原本需要数月的工作;而内部约 5000 人则看到前沿系统运行着成群协作的智能体。他将这一漏斗现象归因于所尝试解决问题的雄心程度、能力的不均衡性(在数学和编程等可验证领域表现突出),以及分层的访问权限。

把这条四月的推文翻出来,因为人们对 LLM 能力的认知差距正在*扩大*。如今,这已不太像是“两群人各说各话”,而更像一个急剧收窄的漏斗。 - 粗略估算,约有 60 亿人(占总人口约 75%)几乎完全没有接触过 LLM。 - 约有 10 亿至 20 亿人(约 20%)只是偶尔使用免费版 ChatGPT 这类产品。这群人看到的是傻乎乎的聊天机器人,把它们当作稍好一点的 Google 搜索、写作助手之类的工具。也许会有个智能体尝试帮你订机票。我有一些非技术圈的朋友说,他们基本用不上它(在我看来,这很合理)。甚至许多数学和编程领域之外的专业人士也处于这一层。例如,高管和许多其他岗位的人有大量时间都在与人交流,所以,虽然他们在理性上理解正在发生什么,但这种理解仍是间接的,也有些抽象。 - 接下来是专业人士在数学和编程领域使用前沿级 LLM 的情况。大约有 2000 万人(0.2%)亲眼看到:过去需要他们花数周乃至数月才能完成的大型复杂项目,如今只需给出一条提示,就能由智能体完成。开发应用、复制应用、翻译应用、从二进制文件反编译应用……这一切都发生得非常快,而且就在最近——不到一年前,我还在亲手写代码,把记住的代码指令逐个字符敲进代码编辑器,偶尔按一下 Tab 键,自动补全一小段代码。 - 最后是大约 5000 名(约 0.00006%)能在内部使用前沿级系统的人。外界已经见过预览。看起来就像成千上万个智能体组成的集群,持续数周协作完成超大型软件项目:挖掘零日漏洞,以机器速度开展网络攻防,取得新的科学发现,推进数学前沿。这些事情原本需要业内顶尖专业人士花上数年才能完成。与此同时,人类的审查和理解开始跟不上了。例如,人们仍在对数月前的 OpenAI-HF 事件进行“考古”。数学家们可能还得花上一段时间,仔细研读那 722 篇前沿数学手稿。 这个漏斗由多种因素共同驱动: 1. 影响会随着目标的雄心、问题的规模和时间跨度而增大。一个只需一段话就能回答的问题,几乎无法让系统使出多少力气。你需要储备一批自己真正关心的重大难题。这一因素决定了漏斗中普通消费者与专业人士之间的差异。 2. 系统能力的参差不齐(我曾另行写过很多相关内容)。能力的峰值出现在数字化、可验证且具有经济价值的领域。这是因为,LLM 的能力来自以可验证奖励为依据的强化学习,而训练所用的是一组经过精心筛选、由潜在收入驱动的环境。这一因素主要决定了漏斗在领域(例如数学和编程)维度上的差异。 3. 访问权限。免费版、付费版、内部版。 这就是当下的奇特之处。普通大众大多还没有与这些系统互动过。即使接触过,看到的也像是一个傻乎乎的聊天机器人。大多数专业人士仍然只感受到幅度不大的提升。而极少数专业人士正在体验曲线陡然直立所带来的眩晕感。所有这一切,都在同时发生。
查看原文
查看缓存全文

缓存时间: 2026/10/11 19:51

把这条四月份的推文翻出来,因为人们对 LLM 能力的认知鸿沟正在扩大。如今,这已不太像“两群人各说各话”,而更像一个急剧收窄的漏斗。

  • 粗略估算,大约 60 亿人(约占总人口的 75%)几乎从未接触过 LLM。
  • 大约 10 亿至 20 亿人(约 20%)只是偶尔使用 ChatGPT 这类产品的免费版。这群人看到的是傻乎乎的聊天机器人,多少把它们当成更好用的 Google 搜索、写作辅助工具之类。也许会有个智能体试着帮你订机票。我有一些不从事科技行业的朋友说,他们基本用不上它(在我看来,这也合理)。甚至许多数学和编程领域之外的专业人士也处于这一层级。比如,高管和许多其他岗位的人,大量时间都花在与别人交谈上,所以,尽管他们在理性层面理解正在发生什么,但这种理解仍是间接的,也有些抽象。
  • 接下来是前沿级 LLM 在数学和编程领域的专业应用。大约 2,000 万人(0.2%)亲眼看到,过去需要他们花上数周乃至数月的大型复杂项目,如今只需一条提示词,就能由智能体完成。构建应用、复刻应用、翻译应用、从二进制文件反编译应用……这一切都发生得非常快,而且就在最近——不到一年前,我还在手动写代码,把记住的计算机代码指令逐字输入代码编辑器,偶尔按一下 Tab 键,自动补全一小段代码。
  • 最后,是大约 5,000 名(约 0.00006%)能够在内部使用前沿级系统的人。外界已经看过预览。呈现出来的是成千上万个智能体组成的集群,连续数周协作处理超大型软件项目:挖掘零日漏洞、以机器速度开展网络攻防、取得新的科学发现、推进数学前沿。这些事情,原本需要业内顶尖专业人士花上数年才能完成。与此同时,人类的审查和理解开始跟不上了。例如,人们仍在对数月前的 OpenAI-HF 事件进行“考古”。数学家们可能还得花上一段时间,仔细研读那 722 篇前沿数学文稿。

这个漏斗由多种因素共同驱动:

  1. 影响会随着目标的雄心、问题的规模和时间跨度而扩大。一个只需一段文字回答的问题,几乎无法让系统使出多少本领。你需要积累一批自己真正关心的重大难题。这一因素决定了漏斗在普通消费者与专业用户这一维度上的形状。
  2. 系统能力的参差不齐(我已在其他文章中多次讨论过)。其能力在数字化、可验证且具有经济价值的领域达到峰值。这是因为,LLM 的能力来自强化学习:在由营收潜力驱动、经过精心筛选的混合环境中,依据可验证的奖励进行训练。这一因素主要决定了漏斗在领域(例如数学和编程)这一维度上的形状。
  3. 访问权限。免费版、付费版、内部版。

这就是当下的奇特之处。普通大众大多还没与这些系统打过交道。即便接触过,看到的也像是个傻乎乎的聊天机器人。大多数专业人士仍只看到小幅提升。而极少数专业人士,却正在体验曲线陡然垂直上升所带来的眩晕感。所有这一切都在同时发生。

Andrej Karpathy (@karpathy): 从我的时间线来看,人们对 AI 能力的认知鸿沟正在扩大。

我认为,第一个问题与使用时间的远近和所用版本的层级有关。我想,很多人在去年某个时候试过 ChatGPT 的免费版,然后让那次体验过度影响了自己对 AI 的看法。这是

相似文章

Andrej Karpathy 解读能力鸿沟

Hacker News Top

Andrej Karpathy 进一步阐述了他之前关于人们对 LLM 能力认知差距不断扩大的推文,描述了一个从约 60 亿几乎未接触过 LLM 的人,到约 5000 人可访问前沿内部系统的漏斗结构,其驱动力包括野心、能力的参差分布以及访问层级。

使用LLMs

Reddit r/singularity

这篇文章反思了身边的人对LLMs如ChatGPT的有限使用和理解,引发了关于AI工具广泛采用的疑问。