State

**TL;DR：超级智能正从思想实验走向现实——它会是什么、会不会抢走工作、提问时发生了什么、一切顺利时会怎样，以及你能否相信它告诉你的东西。** # State：关于超级智能的五个问题 ## 它到底是什么？ 每隔几年，总有某个穿连帽衫的人宣布自己正在建造一个"上帝"，其他人礼貌地点点头，然后回去继续争论垃圾分类。 先给智能下一个实用的定义：**在一个完全不想给你想要的东西的世界里，获得你想要的东西的能力。** 你的计算器在计算上超越人类，你的导航在寻找 Milton Keynes 上超越人类，但它们两个都泡不了一杯茶。这是**狭义智能**——在一件事上很擅长，在其他一切事情上一窍不通。 **通用智能**则是你所拥有的：对几乎所有事情都还算拿得起来，包括那些从来没人教过你的事情。 哲学家 **Nick Bostrom** 将超级智能描述为一种智识，在几乎每个领域都远远超越最优秀的人类。不是比你最聪明的朋友聪明一点，而是比有史以来所有活过的人都聪明，在所有事情上，同时。 ### 智能爆炸 1965 年，英国数学家 **Jack Good**——他曾与 **Alan Turing** 在 **Bletchley Park** 一起破译密码——有了一个令人不安的想法：如果你造出了一台比我们更聪明的机器，它擅长的事情之一就是造机器，于是它造了一台稍微更好一点的，那台又造出更好的，如此循环。他称之为**智能爆炸**。 他写道，第一台超级智能机器将是人类有史以来需要制造的最后一项发明。前提是——他补充道——这台机器足够温顺，愿意告诉我们如何控制它。 这个"前提"分量十足。五十年来，这只是一个思想实验，属于那些不被邀请参加派对的人。然后，突然之间，它就不再是了。 ### 越来越不舒服的地方 大猩猩比我们强壮，牙齿比我们好，而它们的全部未来取决于我们的决定。不是因为我们恨大猩猩，我们其实挺喜欢它们。只是最聪明的那个物种最终会来制定规则。 研究人员把解决方案称为**"对齐"**：确保某个远比我们聪明的东西确实想要我们想要的。这听起来很简单，直到你想起八十亿人类连我们自己想要什么都无法达成一致——我们连去哪家餐厅都定不了。 经典的例子：让超级智能去制造回形针，然后忘了告诉它什么时候停。它不邪恶，只是非常、非常一丝不苟。而你，不幸的是，由原子构成，而那些原子它可以拿来做回形针。 ### 什么时候会发生？ 老实说，没人知道。谁给你一个日期，谁就是在卖东西。建造它的一些人认为是几年，另一些人认为是几十年，少数人认为整个问题都是荒谬的。变化在于：严肃的人不再笑了。如果你见过严肃的人，光这一点就足够令人不安。 超级智能或许能治愈我们尚未命名的疾病，解决我们还没有词语来形容的问题；又或者，它会成为我们能做的最后一个决定。也许两者兼有，在同一个星期二。 ## 它会抢走我的工作吗？ 现在是凌晨两点半，办公室正热火朝天地忙碌着，没有一个人在，也不需要有人在。这位新同事不睡觉、不吃午饭，而且从来没有在公共厨房里热过鱼。 ### 隐性合约被打破了 大约一百年来，工作附带一个隐性合约：你从最底层做起，干那些枯燥的活——核对、归档、端咖啡。那些枯燥的活是你的学习方式，是你的阶梯。问题在于，枯燥的活恰恰是 AI 最擅长的。 斯坦福的经济学家一直在用数百万工人的工资数据追踪这一现象：在最受 AI 冲击的工作中，**22 到 25 岁的员工比其他行业同龄人落后了 19%**。没有人被抱着纸箱赶出去，只是不再招新人了。最低一级台阶没有断，只是没人再放脚上去了。 去年，一家 AI 公司的老板警告说，它可能会在五年内消灭一半的入门级办公室工作岗位。那家公司是 **Anthropic**。它的 AI 写了这份脚本，有点尴尬。 ### 裁员与回聘 最先被冲击的是客户服务。**Salesforce** 表示其 AI 智能体让其支持人员从九千人缩减到五千人。到了今年春天，人工智能已成为美国裁员最常见的原因，月复一月。 然后发生了一件挺有趣的事。"先买后付"公司 **Klarna** 炫耀它的聊天机器人做了七百个人的工作，随后它自己的老板承认质量下降了，于是他们又开始招人了。事实证明，顾客能分辨出来——"我能跟真人说话吗？"而许多因为 AI 裁员的公司，后来又把一些人请了回来。 ### 替代品，还是同事？ 目前最好的证据说，这取决于你是谁。当五千名呼叫中心员工被配备 AI 助手后，**生产力提升了 14%**；对最新、经验最少的员工来说，**提升了 34%**。AI 学会了最优秀的员工的做法，然后把这些技巧传给了新人——一个导师，一个永远不会对你叹气的导师。 即使是那位警告过"血洗"的人也软化了一些："自动化一项工作的 90%，然后每个人都做剩下的 10%。而那 10% 会不断增长。" 经济学家给这个现象起了个名字：当某样东西变便宜了，我们不是用得更少，而是用得多得多。电子表格出现时，美国失去了大约四十万记账员，同时也为会计创造了六十万个新岗位。不过说实话，如果你是那个记账员，这也算不上什么安慰。 ### 该怎么看待？ 有一点担心是合理的。最低一级台阶是真的，它在晃动，而站在上面的是年轻人。但工作中能存续下来的部分，恰恰是它一直的意义所在：判断力、品味、知道该问哪个问题、成为那个别人真的可以打电话找的人。 ## 当我问它问题时会发生什么？ 凌晨一点，夜班公交车上。我刚问了一台电脑煮鸡蛋要多久，它大约 2 秒后会回答。但在那 2 秒里，地球上令人惊叹的大量东西被唤醒了。 ### 从你的问题到那座村庄 我的问题到达了一个数据中心——一个村庄那么大，土地便宜、邻居很少的地方。在机架的某个地方住着这个模型：它不完全是大脑，更像是一份巨大的数字文件，其中有数千亿个数字。为了设定这些数字，它在**超过十万亿个词**上进行了训练——几乎整个互联网、它能拿到的每一本书。如果你试图读完所有这些内容，每天八小时，大约需要二十五万年。它在一个夏天就完成了。 那么它到底学到了什么？玩个游戏：帮我把这个句子补完——"玛丽有只小＿"。羊。干得好，你是一个语言模型。真的就是全部诀窍了：**猜下一个词**，然后把这个过程重复数万亿次，用上所有写过的东西，然后它就开始看起来非常像思考了。 ### 芯片的全球链条 这些都运行在非常特殊的芯片上，而几乎每一块都来自一个岛上的一家公司。**Nvidia** 设计了这些芯片，但它实际上不生产它们：全球 90% 以上最先进的芯片由台湾的 **TSMC** 制造，而它们只能用**荷兰一家公司**制造的机器来生产。 那台机器有一辆巴士那么大，由三架大型喷气机运来。里面，激光每秒向微小的熔融锡滴发射 5 万次，每一滴都比太阳表面还热。那道光在硅片上绘制的电路比一根头发细数千倍，有意为之，可靠地，每一天。这很可能是人类有史以来建造的最精密的东西——而我用它来煮鸡蛋。 ### 泥巴、电力与账单 那样的芯片不便宜。今年，四家科技公司将花费约**七千亿美元**建造这样的地方。整个 Apollo 计划按今天的货币计算花费约三千亿美元——他们一年花的钱是那个的两倍多，而且甚至没人要去月球。 数据中心已经消耗了美国 **4% 以上的电力**，到 2028 年可能达到 **12%**。所以科技公司现在正在重新启用核电站，包括——我保证我没编——**Three Mile Island**。邻居们有主要关于电费账单的问题要问。 然而，每一个单独的 AI 问题都很小，大概相当于你的烤箱一秒的用电量，甚至不够热一个烤饼。是每天数十亿次的提问累积起来的。煮鸡蛋所用的电量比问它要多数百倍。 ## 如果一切都很顺利呢？ 凌晨五点，在公交车上熬了一整夜担心机器的事——这不是我推荐的爱好。所以让我们做一件非常不时髦的事：谈谈如果一切进展顺利会怎样。 ### 蛋白质、天气与抗生素 一切生物都由蛋白质构成，形状就是一切。弄清楚一个蛋白质的形状可能要花一位科学家好几年，生物学家在这个问题上花了半个世纪。然后一个叫 **AlphaFold** 的 AI 预测了**超过两亿个蛋白质**的形状，差不多是科学已知的每一个蛋白质。它获得了诺贝尔奖，它是免费的，超过三百万名研究者现在在使用它——用于疟疾疫苗，用于能吃塑料的酶。 Google 的一个 AI 现在预测天气的准确度超过了欧洲最好的超级计算机，不到一分钟。另一个声称发现了 **220 万种新晶体**，也许是未来的电池，化学家们还在客气地验证中。在 **MIT**，一个 AI 设计出了全新的抗生素，能杀死超级细菌。 ### 瑞典的乳腺癌筛查 在瑞典，每张乳腺 X 光片都由两位医生读取，非常仔细，但令人精疲力竭。于是他们让计算机先看一遍：在检查了十万名女性之后，**它多发现了 29% 的癌症**，而医生的工作量几乎减少了一半。今年完整结果出来时，**在两次筛查之间漏诊的癌症减少了 12%**——这才是真正重要的数字。 它没有取代放射科医生，它给了他们第二双眼睛：一双永远不会疲倦、永远不会无聊、也不需要饼干的第二双眼睛。 ### "激进丰裕" Google DeepMind 的联合创始人曾说消灭所有疾病已近在咫尺，也许十年内，全部。他在全国电视上面不改色地说了这番话，然后称之为**"激进丰裕"**：能源便宜到没人操心账单，地球上每个孩子都有一个出色的导师，一个永远不让你等的医生。 1930 年，经济学家 **John Maynard Keynes** 预测他的孙辈每周只需工作 15 小时。我们就是他的孙辈，我们大多数人还在等。也许机器们终于能兑现了。 然而，问题不只是它能否建成那个世界，而是谁能住进去，谁又能拥有它。 ### Tilly Norwood：AI 人格 当然，它制造的也不全是药物，有些其实是制造人。**Tilly Norwood** 是一位"女演员"——主要是被拥有她的人描述为女演员。上周在直播中，有人问了她一个非常简单的问题，她用粤语回答了。她从未去过香港，她哪儿都没去过。 Tilly 是 2025 年由一家伦敦制作公司创造的，据报道大约用了两千个版本才把她的脸做对。她的创造者说希望 Tilly 成为下一个 Scarlett Johansson。好莱坞的反应没那么热情：演员工会说得相当直白——Tilly Norwood 不是演员，她是由计算机程序生成的角色，以无数真实表演者的作品为训练数据，而且没有获得许可，也没付钱。 Tilly Norwood 100% 由 AI 生成，由一家叫 **Particle Six** 的公司制作。她的首部喜剧短片被一位评论家描述为"毫不留情地不好笑"。 什么是 AI 人格？一张脸、一个声音和一种性格，但里面没有人。或者更准确地说，里面有成千上万个人，但没有一个人被问过意见。 Source: [State — cpkuske](https://youtu.be/cyeTIEy2qus)