我们为何会认为有人会提供超级智能的访问权限？
摘要
这篇文章探讨了为何我们假定超级智能会对公众开放，暗示企业可能为保持竞争优势而将其保密，从而使得开放访问在经济上变得不理性。
相似文章
是否应该因担心恶意行为者而禁止公众访问极其强大的模型？开源是否鲁莽？
本文探讨了是否应限制对强大AI模型的访问以防止恶意行为者滥用，或将其开源以实现公平访问，权衡了权力集中与社会危害的风险。它建议采取折中方案，引用了Anthropic设置护栏的方法，但也承认了其局限性和权衡。
我们无法控制的超级智能，为何还要为我们做事？
这篇文章质疑，如果超级人工智能无法控制，它为何会满足人类的欲望，如治愈癌症或创造飞行汽车？
马克·扎克伯格在X上：“我相信每个人都应该能够使用超级智能”
马克·扎克伯格宣传Meta的理念，即让超级智能惠及每个人，并预告了一篇关于公司价值观的长文。
他们为什么会与自己憎恨的人分享丰裕和长寿呢？
# 质疑：超级智能（ASI）与奇点的红利，真的会惠及全人类吗？ 一篇观点犀利的评论文章对以下问题提出质疑：**ASI（人工超级智能）和奇点时代所带来的种种好处——比如物质极大丰裕和数字化永生——是否真的能够被公平地共享？** 文章的核心论点是：在利润驱动下，科技精英阶层极有可能将这些划时代的突破据为己有，而非将其惠及整个社会。 --- 这篇文章对技术乌托邦主义的乐观叙事敲响了警钟。当人们沉浸在对超级智能的美好想象中时，一个不容回避的现实问题是：**谁将掌握这些技术的钥匙？** 文章认为，历史一再证明，掌握关键资源的群体往往倾向于垄断而非共享。从石油到互联网，从基因编辑到人工智能，每一次技术革命的红利分配都并非均等。ASI和奇点所许诺的"丰裕"与"永生"，很可能会成为科技寡头的专属特权。 **以下是文中提出的关键论点：** - **利润至上**：科技公司和投资者的根本目标是盈利，而非社会公平。当ASI能创造出巨额财富时，没有任何经济动机驱使这些掌控者将成果无偿分享给大众。 - **数字化永生的私有化**：如果永生成为可能，它将首先成为那些负担得起的人的奢侈品——如同今天的顶级医疗、太空旅行和私人教育一样。 - **丰裕并非自动共享**：即使ASI消除了物质稀缺，"谁能获得什么"的分配问题并不会自动解决。权力结构和财富不平等将继续主导资源的流向。 - **监管滞后**：技术的发展速度远远超过法律和政策的制定速度。当监管框架终于成形时，既得利益者早已巩固了他们的优势地位。 文章最终发出警示：**如果我们希望奇点时代的红利能够被全人类共享，就必须在技术到来之前，主动设计公平的分配机制和强有力的监管框架——而不是天真地寄望于科技精英的善意。**
为什么那么多人认为AGI会继续被政府和亿万富翁控制？
探讨了关于谁将控制AGI的常见假设，质疑它是否会继续掌握在政府和亿万富翁手中。