1个月对于我们=82万年对于ASI

Reddit r/singularity 新闻

摘要

探讨了ASI由于处理速度远快于人脑而经历的主观时间压缩,暗示人类1个月的时间相当于ASI的82万年思维时间,引发对齐问题。

嘿,伙计们,我一直在思考智能爆炸背后的原始物理和数学原理,时间压缩这个方面简直太疯狂了。我们总是讨论ASI会有多聪明,但却忘了它相比生物大脑的思考速度有多快。其实物理原理很简单:人脑:我们的神经元以最高100-120米/秒的速度传递电化学信号,放电频率约为200赫兹(每秒200次)。硅芯片:处理器以千兆赫(GHz)运行,1GHz等于10亿赫兹,数字系统的运行速度比我们的细胞快数百万倍,即使现在也是如此:我们已经看到了这种速度差距。说实话,当今的AI能在3秒内读完大约50本书或编写复杂代码,而人类需要几天或几周。但当完整的ASI将这一速度放大时,我们的日历对它来说就完全扭曲了:当你睡8小时时,ASI在其自身思维中会经历大约9000年的主观连续研究时间(literally从石器时代到核时代就在一夜之间)。仅仅在我们时间的1个月里,ASI会经历82万年的不间断思考……这相当于将整个人属进化的三倍时间压缩到30天内。你如何控制或对齐一个将我们的1秒视为它主观现实中的数周或数月的东西?对ASI来说,我们基本上就像雕像一样静止不动,而它每天都会经历整整几代人文明的思维。你们对这个速度差距怎么看?感觉我们还没有足够地谈论在奇点期间时间是如何完全崩塌的。
查看原文

相似文章

ASI:One

Product Hunt

ASI:One 是一款拥有持久记忆、可自主规划并执行任务的个性化 AI 产品。

从AGI到ASI

arXiv cs.AI

谷歌DeepMind的一份研究报告探讨了从人类级通用人工智能(AGI)到超级人工智能(ASI)的转变,讨论了扩展、范式转变、递归改进和多智能体集体等潜在路径,以及瓶颈和开放研究问题。