@YiMaTweets:当前的大知识模型非常有用,很可能催生出万亿美元级别的产业。但毫无疑问,它只是基于整个智能(以及意识,乃至更多)拼图中极小的一块……
摘要
一段评论串认为,虽然大语言模型很有用,并可能催生出万亿美元级别的产业,但它们只捕捉到了智能与意识中极小的一部分;而智能和意识是通过感官知觉、情感和具身体验演化而来的,而非仅仅源于语言。
查看缓存全文
缓存时间: 2026/10/04 07:10
当前的大知识模型非常有用,并且很可能催生出一个万亿美元规模的产业。但毫无疑问,它仅仅建立在(关于智能、意识以及更多方面)整个认知拼图中极小的一块之上。
Ewan Morrison (@MrEwanMorrison): 语言并非人类意识的根本。从演化的角度来看,它在我们的时间线上出现得非常晚。
意识是在数百万年间,通过感官知觉、情绪,以及我们部落时代所遗留的具身生存本能演化而来的;我们共情的能力……
相似文章
@_jasonwei: 当语言模型首次开始良好使用工具时,我曾同情那种认为无需扩大语言模型规模(lang…)的叙述。
作者认为,虽然工具使用使较小的语言模型能够有效执行任务,但较大的模型在速度、可靠性和内化知识方面仍然至关重要,强调在人工智能领域持续扩展规模的必要性。
@HinataMotivates:Yann LeCun 称 AI 行业已彻底“LLM 上头”
Yann LeCun 认为 AI 行业过度沉迷于大语言模型。
Google DeepMind 高级科学家 Alexander Lerchner 质疑大语言模型能获得意识(即使在100年内),称其为“抽象谬误”。
Google DeepMind 高级科学家 Alexander Lerchner 认为大语言模型无法获得意识,将这一假设称为“抽象谬误”,并指出即使在长达一个世纪的时间框架内,这种局限性依然存在。
# 超大号智能 (Extra Big-Ass Intelligence)
# 「超大杯」AI 智能:从 XL 到 XXL 的模型身材焦虑 ## 引言:谁把我的参数越写越大? 还记得当年用 5 亿参数的模型跑一个情感分析,就已经觉得「哇,好聪明」。如今你要是拿它出来,大家只会礼貌地问一句:**「这是去年的吗?」** 语言模型的进化速度,比你的手机换代速度还快——只不过,别人家的升级是性能翻倍,我们的是**腰围翻倍**。 ## 一、参数军备竞赛:一场没有终点的赛跑 GPT 系列从 1.7B 到千亿级别,不过用了短短几年。各家实验室的对话大概是这样的: - **研究员 A**:「我们的模型有 70 亿参数。」 - **研究员 B**:「我们的有 700 亿。」 - **研究员 C**:「我们的有……你先别听,我们先说显存够不够。」 参数规模已经成了某种科技圈的腰围——**没人想承认自己比别人小**。于是我们看到一个诡异的现象:明明任务只有 300 词的摘要,却要用上一台足以驱动小型城市的 GPU 集群。 ## 二、「越大越聪明」的神话与真相 是的,模型大了确实更聪明,但这里的「聪明」有几个前提: 1. **数据质量得跟上**——用互联网垃圾喂出来的百亿参数模型,可能只是一个博览众「坑」的博学白痴。 2. **推理成本得算清**——调用一次的电费,可能比你自己动手写完那份报告还贵。 3. **并非线性收益**——从 7B 到 70B 提升明显,从 70B 到 700B……嗯,钱包先哭了。 换句话说,**模型大小和智能水平的关系,更像房价和幸福感的关系**:有帮助,但远没有你以为的那么有帮助。 ## 三、当「Extra Large」成为默认选项 行业现在的默认设定是:**能训多大就训多大**。这背后有真金白银的逻辑——推理服务、论文引用、融资估值,都对「参数量」这个数字格外敏感。 但普通用户关心的是什么?是它能不能: - 用你说人话的方式回答问题; - 在 3 秒内给你结果,而不是让你等到泡面凉了; - 跑在你那台笔记本上,而不是云端的某个数据中心。 于是「大模型」和「好用的模型」之间,出现了一条微妙的裂缝。这条裂缝里,藏着蒸馏、量化、剪枝这些把大象塞进冰箱的艺术。 ## 四、小模型的反击:秀肌肉不如秀性价比 当大家都在比谁的模型「更胖」时,一批精瘦选手开始逆袭: - **7B 级别的模型**,经过高质量数据微调后,可以在特定任务上吊打通用巨型模型; - **MoE(混合专家)架构**,让模型外表臃肿、实际只动用一小部分参数干活——**AI 界的「看起来很壮」**; - **端侧部署**让手机、笔记本也能跑起不错的模型,用户终于不用为一句「今天天气怎么样」排队等待 GPU 了。 事实证明,**智能不是体积的函数,而是数据、架构和训练策略的函数**。 ## 五、展望:我们到底在追求什么? 这场「越做越大」的竞赛,最终指向的应该是**更聪明的智能**,而不是更占地方的参数。好消息是,行业已经开始出现清醒的声音:评估标准正在从「参数量」转向「能力表现」,从「谁训得最大」转向「谁用得最好」。 也许未来的某一天,我们会对一个模型说:**「你不需要长那么高,把问题回答好就行。」** 而这,可能才是真正意义上的——**Extra Large Intelligence**。 --- *写完这篇稿子,我的笔记本风扇已经开始抗议了。模型的身材焦虑,原来会传染。*
面向现实世界的人工智能:与Yann LeCun的对话(12分钟阅读)
Yann LeCun认为,大型语言模型缺乏真正的智能,因为它们不理解物理世界;他主张开发能够学习因果关系并为现实世界应用提供规划的“世界模型”。