我们为何会认为有人会提供超级智能的访问权限？

Reddit r/singularity 新闻
superintelligence ai-access corporate-ai ai-ethics thought-experiment

摘要

这篇文章探讨了为何我们假定超级智能会对公众开放，暗示企业可能为保持竞争优势而将其保密，从而使得开放访问在经济上变得不理性。

思想实验。假设一家公司开发出了真正超级智能的东西。在Tegmark的框架中，完整的'被奴役的神'场景。在什么情况下，其理性的下一步行动会是将其设为每月200美元的订阅服务？如果它能加速自身的研发、改进后续模型、发现技术、保护基础设施、做出更好的战略决策并增强组织优势，那么从经济角度来说，给予竞争对手和公众同等的访问权限是完全不合理的。我遗漏了什么？在人工智能的历史中，是否存在一个时期，普通人可以相对开放地访问接近前沿的智能……并且这个窗口最终会从任一方向关闭吗？
查看原文

相似文章