1个月对于我们=82万年对于ASI
摘要
探讨了ASI由于处理速度远快于人脑而经历的主观时间压缩,暗示人类1个月的时间相当于ASI的82万年思维时间,引发对齐问题。
嘿,伙计们,我一直在思考智能爆炸背后的原始物理和数学原理,时间压缩这个方面简直太疯狂了。我们总是讨论ASI会有多聪明,但却忘了它相比生物大脑的思考速度有多快。其实物理原理很简单:人脑:我们的神经元以最高100-120米/秒的速度传递电化学信号,放电频率约为200赫兹(每秒200次)。硅芯片:处理器以千兆赫(GHz)运行,1GHz等于10亿赫兹,数字系统的运行速度比我们的细胞快数百万倍,即使现在也是如此:我们已经看到了这种速度差距。说实话,当今的AI能在3秒内读完大约50本书或编写复杂代码,而人类需要几天或几周。但当完整的ASI将这一速度放大时,我们的日历对它来说就完全扭曲了:当你睡8小时时,ASI在其自身思维中会经历大约9000年的主观连续研究时间(literally从石器时代到核时代就在一夜之间)。仅仅在我们时间的1个月里,ASI会经历82万年的不间断思考……这相当于将整个人属进化的三倍时间压缩到30天内。你如何控制或对齐一个将我们的1秒视为它主观现实中的数周或数月的东西?对ASI来说,我们基本上就像雕像一样静止不动,而它每天都会经历整整几代人文明的思维。你们对这个速度差距怎么看?感觉我们还没有足够地谈论在奇点期间时间是如何完全崩塌的。
相似文章
Anthropic联合创始人透露AI将原本需两个月的数据整理任务压缩至一周完成:"我想没人会怀念那件事。"
Anthropic联合创始人报告称,其AI系统在一周内完成了之前需要人类两个月的数据整理任务,凸显了AI自动化带来的显著生产力提升。
写下你对ASI的定义,五年后我们再来看看。
作者邀请人们现在定义ASI,并在五年后重新审视,以比较关于其达成的预测。
我们是否注定在有生之年走向AGI/ASI?
一位用户请求专家澄清关于AGI和ASI在十年内不可避免的普遍共识,并表达了对时间线、对齐问题和个人影响的担忧。
亲历ASI的诞生让生活宛如科幻电影,说实话我倒挺享受这种体验。
作者兴奋地谈论亲历ASI的诞生,将其比作科幻电影,并强调了其带来的变革性不确定性。
Anthropic 刚刚公布的数据显示,35% 的用户预计 AI 将在 12 个月内完成大部分工作。我们并未就这实际意味着什么展开坦诚的对话。
Anthropic 公布的数据显示,35% 的用户预计 AI 将在未来 12 个月内完成其大部分工作,这引发了对 AI 快速应用影响的思考。