马克·扎克伯格6500字的AI宣言——几乎什么都没说

# 马克·扎克伯格的 AI 宣言长达 6500 字——却几乎没说出什么实质内容 来源：https://www.wired.com/story/mark-zuckerbergs-ai-manifesto-is-6500-words-and-barely-says-anything/ 今天的《Uncanny Valley》节目中，Brian Barrett、Zoë Schiffer 和 Leah Feiger 将解析 Meta CEO 马克·扎克伯格那篇 6500 字的 AI 宣言，以及它为什么最终听起来空洞无力。此外，为什么求职者会把机器人主持的面试安排在凌晨 1 点？WIRED 的 Andy Greenberg 也将加入我们，一起梳理 Black Hat 和 Defcon 大会上最精彩的发现，从被黑客入侵的儿童智能手表，到一个可以劫持波音 737 的硬币大小设备。 **本期节目提到的文章：** - 凌晨 1 点面试的兴起 (https://www.wired.com/story/the-rise-of-the-1-am-job-interview/) - 黑客劫持儿童智能手表尾随我 (https://www.wired.com/story/hackers-stalked-me-by-hijacking-a-smartwatch-for-kids/) - 这个硬币大小的设备可以黑入波音 737 (https://www.wired.com/story/this-coin-sized-device-can-hack-a-boeing-737/) - 麦当劳为我建了一份 515 页的档案，上面说我永远不会停止去那儿吃饭 (https://www.wired.com/story/mcdonalds-built-a-515-page-dossier-on-me-it-says-ill-never-leave/) 你可以在 Bluesky 上关注 Brian Barrett，账号为 @brbarrett (https://bsky.app/profile/brbarrett.bsky.social)；关注 Zoë Schiffer，账号为 @zoeschiffer (https://bsky.app/profile/zoeschiffer.bsky.social)；关注 Leah Feiger，账号为 @leahfeiger (https://bsky.app/profile/leahfeiger.bsky.social)；关注 Andy Greenberg，账号为 @agreenberg (https://bsky.app/profile/did:plc:zbxq6fbw575t4nakfot3epen)。也可以给我们写信：[\[email protected\]](https://www.wired.com/cdn-cgi/l/email-protection#b3c6ddd0d2ddddcac5d2dfdfd6caf3c4dac1d6d79dd0dcde)。 ## 如何收听 你随时可以通过本页的音频播放器收听本周播客，但如果你想免费订阅以获取每期节目，操作方法如下： 如果你使用 iPhone 或 iPad，请打开名为“播客”的 App，或者直接点击此链接 (https://podcasts.apple.com/us/podcast/uncanny-valley-wired/id266391367)。你也可以下载 Overcast 或 Pocket Casts 之类的应用，然后搜索“uncanny valley”。我们在 Spotify (https://open.spotify.com/show/11hUjoJv4FxFnw9r0mHIsC) 上也有。 ## 文字记录 *注：以下为自动生成的文字记录，可能包含错误。* **Brian Barrett**：Leah，你觉得《奥德赛》怎么样？ **Leah Feiger**：我喜欢。 **Brian Barrett**：那就好。 **Leah Feiger**：我真的很喜欢。我觉得很有趣。台词什么的也就一般般吧，不过西西里海景拍得很美。我是和我丈夫一起去的，他总是喜欢提醒我他高中时学过拉丁语和希腊语，结果他也挺喜欢的。所以坦率地说，我们家给出 10 分满分 (https://www.wired.com/story/the-odyssey-backlash-failed-tremendously/)。 **Brian Barrett**：好。是的，我同意。我觉得所有抱怨这部电影的人都该消停消停了。总之，欢迎收听 WIRED 的《Uncanny Valley》。我是 Brian Barrett，执行编辑。 **Leah Feiger**：我是 Leah Feiger，政治与科学总监。 **Brian Barrett**：今天的节目，我们要聊的是马克·扎克伯格 (https://www.wired.com/tag/mark-zuckerberg/) 关于 AI 的宣言，这篇东西足足有 6500 多字。我们讨论它的时间会比读完它更短，所以你们可以感谢我们。但最重要的是，我们会讨论这篇宣言透露出的 Meta 战略——一家在 AI 竞赛中不断试图追赶的公司。 **Leah Feiger**：我们还会聊到凌晨 1 点面试的兴起。随着越来越多的人在第一轮面试中面对的是机器人而不是真人，一些求职者开始选择在深夜进行面试。我们会探讨这一现象，以及它远非 AI 改变求职面试的唯一方式。 **Brian Barrett**：稍后，WIRED 的 Andy Greenberg 也会加入我们，一起深入探讨 Black Hat 和 Defcon 大会上的一些最激动人心的研究成果，这是全球最大的两个网络安全盛会。那么，周一，Meta CEO 马克·扎克伯格发表了一篇大约 6500 字的 AI 文章，标题是“未来属于每个人”。听起来是不是很美好？这是科技 CEO 们那些“哲学宣言”这一不幸体裁的最新作品。他们每个人都有。Sam Altman、Dario Amodei。如今人人都有宣言。 **Leah Feiger**：这是必需品。这已经是必修课了。 **Brian Barrett**：有些人甚至写了不止一份宣言。扎克伯格这篇宣言甚至是他此前在《华尔街日报》发表的一篇专栏文章的扩展版。总之，他们都想为整个行业、为全世界阐述自己的观点：为什么他们的公司最有能力应对未来，为什么你不该害怕他们的产品，对吧？扎克伯格宣言的核心论点是，将 AI 力量 (https://www.wired.com/tag/artificial-intelligence/) 集中在少数机构手中是危险的，而让这些模型被广泛获取，才是分散这种力量所需要的。他没有点名，但明显是在抨击 OpenAI 和 Anthropic，这两家更倾向于对其私有模型进行严格控制。他在文中写道，我引用一下：“从历史上看，寄希望于一个拥有绝对权力的主体，只要足够开明就会仁慈地为人类提供一切，这种想法从未带来过安全或积极的结果。” **Leah Feiger**：我觉得这是一种相当“哲学入门课”式的说法，实际上想表达的是“人家根本没带我一起玩”。我的意思是，我们不能脱离一个事实：Meta 正在拼命努力，试图在 AI 行业和竞赛中保持相关性。而且我们还必须提到一个事实：就在几个月前，他们刚刚裁掉了这个团队的很多人。一切实在太混乱了。所以，马克·扎克伯格跑出来说“哎哎哎，咱们得管管 OpenAI 和 Anthropic”，这让我觉得非常搞笑。但我心里想的是：“你巴不得自己是他们呢。”这真的太明显了。 **Brian Barrett**：Leah，我还想就你提到的裁员和 Meta 整体 AI 战略多说几句，那真是乱得一塌糊涂。他们很长一段时间里全力押注开源 (https://www.wired.com/story/silicon-valley-is-completely-divided-over-chinese-ai/)、开放权重模型，因为那是对抗和削弱那些试图直接从封闭模型获利的人（OpenAI、Anthropic）的方式。但那不管用。于是他们花了数十亿美元，大规模招人，建了一个“超级智能实验室”，但到目前为止，这个实验室还没有产出任何能赶上更大实验室的东西。所以现在他说，其实吧，开源可能更好，对吧？这就像一个跑不过别人的人说：“其实我们压根不该比赛。这比赛太蠢了。为什么我们不直接把一切都分享出来呢？”这份宣言还有一点我们还没谈——天哪，我讨厌我们用“宣言”这个词，它听起来好像—— **Leah Feiger**：我讨厌这个词。我真的—— **Brian Barrett**：这就是营销。他那篇营销宣传文的意思就是：“嘿，各位，别担心。AI 没问题，它会让你生活更美好。你们为什么都对这些东西这么不满？难道你们不信任我们能让你过得更好吗？”而这话出自 Meta——就在大约一周前，甚至不到一周，这家公司刚被法院勒令支付 5.67 亿美元，原因是未能采取足够措施保护儿童在线心理健康。我们凭什么相信 Meta 来处理任何事，更别提 AI 及其对社会的影响了？ **Leah Feiger**：百分之百同意。我还忍不住想起去年夏天，OpenAI 和 Meta 的超级智能实验室之间那场疯狂的争夺战、高得离谱的薪水和竞争，那时候大家都在干嘛……我又觉得，那只是我们抓取热点的方式。我们在抓住最火热、最闪亮的东西，即使我们现在根本没有支撑它的系统。尤其是 Meta 周一刚刚发布了一个新的开放权重系统，名叫 Muse Glimmer，用户可以随意下载和修改这个模型。这在很大程度上是在不断转向。我跟你说实话，这份宣言我浏览了一遍。我看了。我肯定是在某个电话会议的背景音里读的，但我确实读了，里面全是空话。对我来说就是一大堆空话。但我知道 Zoë 对此有很多想法，她今天不在我们这边，但确实想分享一些东西。 **Zoë Schiffer**：好的。首先，我觉得值得问一句：为什么马克·扎克伯格觉得有必要写下 6500 字来描述他对 AI 超级智能的愿景？他告诉记者 Alex Heath，这是因为 Meta 即将开始发布超级智能模型，他希望世界在那之前基本上了解他的哲学。我个人的看法是，因为 AI 现在非常不受欢迎，而 Meta 有机会——至少它相信自己有机会——开始扭转舆论方向，同时把自己定位成比那些目前人人喊打的竞争对手更好。我认为问题在于，这份宣言似乎并没有真正认真对待 AI。马克·扎克伯格举了一个例子，说 AI 智能体可以生成个性化食谱，让他能和女儿一起烘焙。我觉得这个例子听起来是挺温馨的，但暂且不说你为什么需要一份个性化饼干食谱，这似乎从根本上忽略了一个事实：这些工具是危险的。它们很强大，我们需要真正认真对待这种危险的 AI 领导者和科技领导者。 **Brian Barrett**：如果 Zoë 在这儿的话——很遗憾她不在，但我很高兴她分享了这些——我还要和她一起庆祝一件事：Leah，我们这档播客到现在都好几个月了，终于让你亲口说出了一款具体的 AI 模型。 **Leah Feiger**：恶心。 **Brian Barrett**：还说出了它是做什么的。真是难以置信，你走了多远，而我们又是怎么把你拖进这滩浑水里的。不过说真的，我觉得她的观点完全正确。这正是一种非常轻描淡写的 AI 描述：每个人都会有工作，你的工作会很轻松，你可以有时间和女儿在一起，做做食谱，云云。它完全无视了——几乎是刻意无视了——我们最近几周尤其是在看到的那些潜在负面后果。我们正处于“失控 AI 智能体的夏天”，对吧？其中包括 Meta 自己的一款 AI，它们展示了这些东西可能有多不可预测、多失控。 **Leah Feiger**：我的意思是，从特朗普白宫 (https://www.wired.com/story/the-white-house-is-going-to-expand-its-ai-policy/) 开始——它历史上一直强烈反对 AI 监管，以至于特朗普总统任期第一年白宫自己的“AI 沙皇”David Sacks 都说“我们不监管”——到现在，白宫终于有了一项虽然略显无力、但毕竟存在的政策，尤其是针对所有国家安全威胁、黑客威胁等等。显然，任何人——不管你有多欢庆 AI、多乐观——现在都无法再假装你不必认真对待这些问题，它不会仅仅解决育儿问题，或者教你的孩子做饭。时代已经不一样了。 **Brian Barrett**：就算真的能解决，你难道就想要它这样吗？最后一点是，我们确实把这篇“文章”——随便你怎么称呼它——放进了 Pangram 这个我们大体上比较信任的 AI 检测工具里。结果是“人类手写”，Leah。 **Leah Feiger**：我就喜欢这个。 **Brian Barrett**：AI 足够好，可以和他女儿一起做食谱，但还不够好到能炮制一份宣言。 **Leah Feiger**：我觉得这很美妙。 **Brian Barrett**：是啊。好。再说其他新闻，再说其他新闻。WIRED 资深撰稿人 Kate Taylor (https://www.wired.com/author/kate-taylor/) 发表了一篇关于一个日益浮现的奇怪现象的故事 (https://www.wired.com/story/the-rise-of-the-1-am-job-interview/)。事情是这样的：如今很多第一轮求职面试是由 AI 完成的。你坐在屏幕前，一个 AI 面试官会问你问题或给出提示，如果不是 AI，那就是软件里预设好的一系列提示。你就以这种方式回答，完成筛选。因为你可以随时做这件事——因为没有真人在另一端——所以，Kate 发现，越来越多求职者会把这类面试安排在深夜，有时甚至到凌晨 1 点，以避开家庭日程的冲突、工作冲突，以及那种你得编一个看牙医的理由来请假去面试的麻烦。现在人们就在孩子睡觉后，坐在客厅里，对一个决定他们生计的 AI 智能体说话。 **Leah Feiger**：我觉得你会被我的看法惊到。 **Brian Barrett**：好，我准备好了。 **Leah Feiger**：我喜欢。 **Brian Barrett**：哇。 **Leah Feiger**：我喜欢这种灵活性。 **Brian Barrett**：你喜欢哪一部分？ **Leah Feiger**：好吧。从历史上看，我一直是那种对看医生、看牙医真的一点都不擅长的人，不是因为我不关心自己的健康，而是因为我真的没法在白天安排出时间。不，我可不想中午去。我很忙。我有工作。我有生活。像这类你不得不做的事情——求职面试、看医生，等等——如果能按你自己的时间表来做，对我来说，我会觉得：这是积极的。这是我从这一切中看到的为数不多的积极面之一。我也明白。听着，我是否认为自动化求职面试真是我现在想要追求的东西？绝对不是。我觉得人类经验中有很多美好的微妙之处，人们能为职场带来的东西，是聊天机器人无法充分捕捉的。然而，如果这就是社会目前的现状，那就让它发生吧。 **Brian Barrett**：我觉得很惊讶，或者说不是“惊讶”，这个词也许不对，但我很意外竟然有这么多人在利用这一点。Kate 采访了两家语音 AI 招聘公司，一家叫 Ribbon，一家叫 Greenhouse。多达四分之一——15% 到 25%——的求职候选人会把面试安排在晚上 10 点到凌晨 2 点之间。那个时间点我并不是状态最佳的时候，但我确实觉得，在某些情况下，你可以尽可能多地重试你的回答。你不喜欢自己刚才的回答，你可以再来一遍，直到你提交为止。至少对其中一些系统来说，我觉得差不多是这样。所以这也许是你拥有的另一个好处。当然，坏处在于，AI 也会对所有这些面试进行第一轮审查。所以，在某些情况下，你被评价的是你的“热情度”。你会得到一个“热情分”，看你对着摄像头表现如何。你会根据招聘公司设定的评分标准被打分。而一个真人真正去看你的录像、亲自评判你的回复的几率，正变得越来越低。我觉得这才是真正让人受不了的地方。 **Leah Feiger**：不，那太糟糕了。你说的完全没错。想象一下，有人看着我的简历，然后说：“嗯，你没达到这一条、那一条。”而你会说：“可这事儿我们本来可以聊的啊。”那太难受了。那就不那么愉快了。 **Brian Barrett**：我知道你在理论上喜欢这一点，我理解。如果你正在申请一份工作，而对方说：“好，第一轮是 AI 面试，你只需要回答一些提示，然后我们再看。”你会把这当成一个理由，直接放弃这个求职流程吗？还是你会说：“行，那就走一步看一步吧”？ **Leah Feiger**：我觉得这真的得看情况，对吧？Kate Taylor 在文章里也提到了这一点。现在经济确实不太好 (https://www.wired.com/story/its-the-economy