科技远见者称大型AI实验室不了解人们的需求

# 科技远见者称大型AI实验室并不了解人们想要什么 来源：https://www.wired.com/story/tech-visionary-says-the-big-ai-labs-dont-get-what-people-want/ 蒂姆·奥莱利衡量一家公司、一个人或一个社会价值的标尺，长期以来一直是*创造的价值要超过你获取的价值*。奥莱利——出版人、互联网先驱、风险投资人、会议组织者和科技智慧的传播者——将这一标准应用于人们设计和运用AI的方式，这并不令人意外。具体而言，他正在推动一个开源AI成为普罗大众灵丹妙药的未来。他担心，就像上世纪90年代的微软一样，如今的超大规模云服务商正试图将用户锁定在自己的产品中。因此，他正在推动AI技术的开源——不仅公开神经网络的权重等关键技术细节，还要解锁AI系统的整个技术栈，把控制权交给设计师和用户。 奥莱利将AI视为一种新的创意媒介，他自己广泛使用AI，甚至有一个关于与AI对话的博客。在我们的交谈中，我们发现彼此对AI在生成原创内容方面的角色存在分歧。猜猜谁站在哪一边。 **史蒂文·列维：你全力押注开源AI。请阐述你的理由。** **蒂姆·奥莱利：**首先，我们要确保说的是同一件事。大多数人谈论开源AI时，实际上只是在谈论开放权重模型。但它的意义远不止于此。在90年代，当其他人都在关注开源许可证时，我说：“不，不，关键在于系统的架构。它是否允许参与？” **为什么这很重要？** 大型实验室对未来的解读是错误的。他们给自己编造了一个叙事，认为拥有最大、最好的模型就是通往未来的钥匙。像Claude这样的大模型正在针对特定用例进行优化，但这些用例未必是人们想要的。我想要嵌入自己的独门秘方。最重要的是在模型、支架（harness）和应用之间实现清晰的分离。而现在我们得不到这些。他们构建了一种控制的架构，而不是自由和参与的架构，所以他们有能力追踪你。 **让出控制权难道不是违背了大公司的利益吗？** 哦，这完全违背他们的利益。但这并不意味着他们做出了正确的战略决策。在很长一段时间里，最新最强大的模型确实在各方面都更优。现在它们在某些方面更好，在其他方面却更差。很多人都在讨论Fable和Sol比低层级模型更不擅长写作。【注：Anthropic和OpenAI会不同意这一说法。】我们在所谓的前沿AI上取得的突破，实际上正在把我们推离普通人的实际需求。我们可以在美国赢得前沿AI之战，但中国会用广泛渗透到社会各层的低层级模型把我们打得落花流水。目标应该是赋予人们自由创新的能力，让他们能够在条条框框之外挥洒。 **人们担心开源软件可能带来安全风险，因为恶意行为者能够突破前沿模型的护栏。** 我们看到的所有的网络安全事件都来自前沿模型。因此，网络安全和开发病原体能力等风险，实际上是主张放慢前沿模型发展速度的理由，而不是限制开放权重模型的理由。 **所以你认为有了开源，AI巨头将不再占据主导地位？** 我不预测未来。但我可以说，世界正朝着我希望的方向发展。如果大型前沿模型最终像大型机或超级计算机一样——针对真正困难的问题，而这些并不是真正能普及到全社会的东西，那会怎样？人们正在构建像Pi这样的东西——一个开源的【智能体】支架。我在我的非营利组织AI披露项目中正在做的一件事，就是“开放记忆联盟”的构想。马克·扎克伯格的论点是，他会把你锁定在他的生态里，因为Meta会给你最了解你的AI。开源愿景必须对此说不。开源可以让你能够切换模型、切换供应商，并保留所需的所有上下文。 **你最近在《经济学人》上写了一篇文章，谈到埃隆·马斯克以及其他科技领袖在其公司中拥有如此大的权力，以至于他们是反资本主义的——因为决定战略的是他们的个人意志，而不是市场。** 总的来说，硅谷已经变得反资本主义了。他们使用市场的话语。但大约在2010年，Uber和Lyft让整个模式浮出水面。在风投的资助下，他们真金白银地花了数十亿美元来补贴出行。是风险投资家而不是市场选出了赢家。这成了模板。所有资本蜂拥而上，扼杀了其他可能的路径。 **在AI领域，所有资金都流向了少数几家公司，但似乎没有一家能稳操胜券。** 因为这是一个失败的模式。真正的行动在于开源。就像上世纪90年代初，所有人都以为这是一场谁主宰PC的战争，然后万维网在没人注意的时候从斜刺里杀了出来。我认为，真正的AI未来将是一场不受风险投资资助的创新发酵——就像万维网当初也不是由风投资助的一样。 **那些颠覆性变革之一可能就是你自己的公司——建立在书籍和写作之上的公司。** 图书出版行业已经衰落了25年。在我们最鼎盛时，图书业务大约有7000万美元的收入，现在只有3000万美元。随着图书收入减少，我们必须找到一种方式来补偿人们分享知识的付出，因为那是我们的根本业务。所以现在AI出现了，把一切都吸走了。我们能否构建一套工具来帮助人们应对这种情况？能够调用专家的知识是一种超能力，我们必须弄清楚这在当下意味着什么。 **当我编辑这次采访时，我会把我们的长对话压缩成更短的篇幅，但我不会用AI来做这件事。当然，引言部分的文字全是我自己写的。这其实是我们的政策。** 我觉得这是会消失的传统包袱。当我写作时，能有一个AI作为思考伙伴，这非常强大。 **AI替你写作？** 不，不。我用它来做头脑风暴，以及一些功能性的写作。当我采访某人一小时后，我会去找AI说：“把它变成我能用的东西。”我没有时间把所有采访都整理成文。 **你不担心AI最终会取代人类写作吗？** AI本质上就是一种媒介，就像书面文字是一种媒介，颜料、音乐也是一种媒介。当我和AI交谈或用它设计艺术时，我从中得到的东西和你得到的是不同的，就像米开朗基罗和梵高从颜料中得到的东西完全不同一样。“你不能用AI写作”这种想法，将来会像“你不能用相机拍出好的肖像或风景”一样令人费解。会有人成为大师，善于通过从大语言模型中召唤文字来表达自己的想法。人们以前骑马。现在很少有人骑了。我们还处在早期阶段。 --- *这是**史蒂文·列维**的**Backchannel**通讯的其中一个版本。点击**此处**阅读往期通讯。*