马克·扎克伯格的AI宣言正是人们不喜欢AI的原因

# 马克·扎克伯格的AI宣言恰恰说明了人们为什么不喜欢AI | TechCrunch 周一，马克·扎克伯格发布了一篇6500字的宣言，主题是个人AI，大部分内容关于Meta AI正在构建的"个人超级智能"系统的种种可能性。这篇文章中的观点并不完全是新东西。这篇随笔的一个版本两周前曾发表在《华尔街日报》上，他也在Meta的财报电话会议上谈论过这些想法。但这可能是他分享过的最详细的版本。 我看到有人把它描述为一篇反末日论的文章，但这个说法不太准确。它更像是描述马克·扎克伯格个人为何对AI将如何改变社会感到兴奋。然而，即使扎克伯格试图描绘一幅超级智能富足将带来的美好未来图景，他也不断提醒我们它可能出错的所有方式。 我也觉得AI令人兴奋——这正是我一直在写它的原因——但很多公众觉得AI既诡异又不舒服。所以值得弄清楚这里到底发生了什么，以及为什么扎克伯格写这样的文章对行业没有任何帮助。 社交媒体在科技行业仍然是一个敏感话题，我们没有足够的篇幅在这里逐一讨论人们对Facebook的每一条抱怨。可以说，Facebook这个产品和扎克伯格这个人都不受美国公众欢迎。最近一项调查发现，64%的美国人认为社交媒体对民主有害，还有类似比例的人认为应该对其加强监管，这些数字在党派之间基本持平。就在这个周末，一家法院以对儿童有害为由对该公司处以5.67亿美元的罚款。整个氛围很糟糕。 我提这些并不是想暗示扎克伯格应该羞愧地退隐山林——但社交媒体的负面影响正是我们现在看到人们如此焦虑AI社会影响的核心原因之一。无论公平与否，公众都不信任科技高管能确保这类新技术对社会产生积极影响。这篇宣言非但没有承认这一点并努力赢回信任，反而一次又一次地展示出信任最初是如何失去的。 文章很大一部分致力于关于智能的模糊概括——这与扎克伯格和多尔西过去对言论自由给出的模糊概括非常相似。这里有一个例子： > 随着每个人都获得更强大的工具，每个人塑造未来的能力会变得更强，而不是更弱。……利益相互冲突的人和机构自然会相互制衡，从而导向积极的结果。构建积极AI未来最好也最现实的路径，是把超级智能交付给每一个人。 我猜是吧？我能想到一些利益冲突导致糟糕结果的例子，但先把这个放在一边。更奇怪的是，这被呈现为一个真诚的哲学结论，而不是Meta正在推向市场的名为"个人智能"的具体产品。如果你本来就不信任这个人，你可能会担心他写这些东西是为了说服自己不会有任何坏事发生。 当扎克伯格讲到具体例子时，我的这种感觉变得更强烈了——很多例子与现实中使用AI工具的方式惊人地脱节。比如，这是扎克伯格对AI在教育领域应用的看法： > 每个人都会有一位个性化的导师和教练，在每一门学科上都拥有博士学位，并且有无限的耐心帮助你学习任何你想学的东西。学生将在他们需要的领域获得额外的帮助，而目前这种帮助只有父母付得起钱的人才能获得。成年人将拥有一位超级智能的学习助理，它确切地知道如何教你新的职业技能、新语言、新爱好，或任何你感兴趣的东西。 当然，扎克伯格描述的产品已经存在了：这就是像ChatGPT、Claude和Gemini这样的消费级聊天机器人。如果你想了解某个话题，这些工具确实很有用，但它们在教育领域的主要使用方式却是用来*逃避*学习，因为你个性化的导师可以帮你做作业、帮你写布置的论文——而且由于没有健全的水印系统，教师无法确定哪些论文是AI生成的。 这是一个相当低风险层面的AI危害例子，但它是当下正在发生的真实事情。有时候你设计一项技术是为了做好事，它却产生了让事情变得更糟的意外后果。而世界上最有权力的人之一拒绝承认这一点，这会让人们感到不安——这完全可以理解！ 扎克伯格还举了一个例子，说明AI将如何让法律体系变得更好： > 作为一个思想实验，想象一下只有一个人拥有一位超级智能律师。他将在法庭上拥有不公平的优势——即使他在案件实质上并不占理。这将导致一个更糟糕的社会。但现在想象每个人都有超级智能律师。在这种情况下，司法公正将比今天得到更公平、更高效的实现，因为在今天的诉讼中，技能和资源往往存在不平衡。 再说一次，这是一个很有倾向性的例子。当然，获得法律AI可能会带来一个更公正的社会，但它也可能给已经存在的官僚地狱增加更多复杂性。或者它可能引发一波缠讼者，用法律版的垃圾邮件堵塞整个系统。很难对这些事情感到安心，而扎克伯格*不*担心的这个事实让我*更*担心。 在其他地方，甚至对Meta现有商业实践的描述也开始呈现一种奇怪的抽象色彩。比如，扎克伯格是这样描述Meta对免费增值模式的承诺的： > 每个人都能免费或以可负担的价格获得这些工具。……我们将提供数十亿人都能使用的免费版本。对于那些愿意付费使用更多算力的人，将有一个动态拍卖机制，确保每个人为他们使用的智能和算力支付尽可能低的价格，同时确保算力被用于人们集体认为最有价值的事情上。这将确保超级智能的收益得到广泛分配。 从大的框架来看，我同意他在这里说的每一点。扎克伯格说得对，可及性是一个问题，他也说得对，免费增值模式比要求每个人预先支付算力费用能提供更大的可及性。动态的即时算力市场已经存在，所以他并不是在想象什么完全脱离常规的东西。但每个消费级AI产品都将终端用户与所使用算力的即时价格隔离开来，这是有原因的。动态调价是一种糟糕的用户体验，尤其是当它被用在你确实依赖其完成工作的工具上时。 再说一次，我必须假设扎克伯格知道这一点，而且他实际上并不打算通过动态拍卖来设定token价格。但读完这篇文章后，我现在对此反而不如之前那么确定了。 讨论这些事情有更好的方式。尽管萨姆·奥特曼和达里奥·阿莫迪有这样那样的缺点，但他们在直接与公众沟通方面做得相当不错。他们做的恰恰是扎克伯格在这篇文章中所抗拒的：承认AI的危险、强调自己的预防措施，并试图说服听众他们是可以被信任的。 这种沟通能做的也有限。有时候（尤其是最近），安全防护措施会失效，整个事业固有的危险性也变得清楚可见。但如果没有某种建立信任的努力，这个行业可能无法总能挺过那些失败。 *当您通过我们文章中的链接购物时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。*