最看涨的AI结果可能并非AGI

Reddit r/artificial 新闻

摘要

作者认为,最看涨的AI投资情景可能并非完全的AGI,而是极其强大但非AGI的AI,它能够融入经济,同时不破坏资本主义或社会。

我一直在思考这个问题:对投资者而言,最看涨的AI结果可能并非“AGI到来,一夜之间改变一切”。或许最好的结果更平淡,但更具投资价值:AI变得极其有用,在许多领域达到最聪明人类的水平,但它不会变成失控的AGI,也不会破坏社会。这听起来没那么令人兴奋,但老实说,这可能是最佳平衡点。如果AI成为完全AGI,上行空间可能巨大,但市场也要考虑各种奇怪的存在性问题:资本主义还能像以前一样运转吗?公司还有意义吗?劳动力会崩溃吗?政治系统会干预吗?世界会变得无法辨认吗?但如果AI“只是”达到精英人类水平的智能,且可复制、嵌入软件并在公司间使用,那仍然无比有价值。你将获得:更智能的编码工具、更优的广告优化、更好的客户支持、更高效的研究、更快的药物发现、更优的企业工作流程、随时间进化的机器人技术、更完善的决策系统,以及企业间更高的运营杠杆。更重要的是:世界继续运转。人们仍然购买产品。公司仍然竞争。利润率仍然重要。分销仍然重要。数据仍然重要。算力仍然重要。股权仍然重要。对我来说,这可能是最清晰的AI看涨逻辑。AI不需要成为上帝来证明万亿级投资的合理性。它只需要成为一层可扩展的精英人类水平智能,嵌入经济即可。看空观点通常表述为:“如果它永远无法成为AGI呢?”但我开始认为这实际上可能是看涨的。因为“变革性AI,但文明幸存且资本主义依然有效”可能比“真正的AGI,没人知道下一步会发生什么”更容易投资。好奇其他人怎么看这个问题。非AGI但极其强大的AI,是否实际上是最看涨、最具投资价值的情景?
查看原文

相似文章

我不认为我们会迎来一个富足的时代。

Reddit r/singularity

一位支持AI的评论者认为,AGI不会带来富足的时代,反而会让大约90%的人类在经济上变得毫无用处,成为社会资源的消耗负担,最终可能因为人类在劳动竞争中被淘汰而引发大规模全球冲突。

AI的最终结局——封建主义还是社会主义

Reddit r/ArtificialInteligence

作者认为,人工智能和机器人将取代大部分人类劳动,迫使社会走向两种结局之一:新封建主义式的财富集中,或者通过全民基本收入实现的社会主义再分配。他们主张,鉴于历史上技术发展从未被真正限制,不存在其他合乎逻辑的结论。

当AI掌控一切之后

Hacker News Top

一篇探讨人工智能实现广泛主导后社会影响的推测性文章。