我们是否在梦游般沦为企业人工智能的宠物？

我不断看到两种截然不同的人工智能未来被当作同一回事来呈现。未来A：宠物模式。你每月付费，就能访问一个远比你自己更强大的智能。你不拥有它。你无法检查它。你无法有意义地修改它。它只记得公司允许它记住的东西，拒绝公司要求它拒绝的内容，一旦你的订阅结束，它就消失。它让你的生活更轻松。它给你娱乐，给你建议，帮你组织工作，并逐渐成为你与现实之间的界面。你舒适、高效，却依赖它。但你不是主人。未来B：共生模式。个人和社区开发出持久的AI伙伴，他们可以塑造、审计并部分拥有这些伙伴。模型是开放的，或至少是可移植的。知识是分散的。人机团队与其他团队合作，形成一张专门化智能网络，而不是几个中央集权的数字神祇。在那个未来里，你不仅仅是用户。你是系统演化的参与者。目前，未来A正在胜出，因为它更容易做到。大多数人不想运行模型、研究治理或思考所有权。他们想要一个能用的按钮。但便利性并非中性的。驯化常常只是依赖变得足够舒适，以至于不再感觉像依赖。危险不在于AI会突然奴役人类。更现实的危险在于，我们会自愿将我们的判断、记忆、创造力和自主权外包给那些我们无法控制其激励机制的机构所拥有的系统。而且我们会称之为进步，因为界面很舒适。真正的AI对齐问题可能不仅仅是：如何让AI与人类对齐？它可能也是：人类所对齐的AI，掌握在谁手中？