1个月对于我们=82万年对于ASI
摘要
探讨了ASI由于处理速度远快于人脑而经历的主观时间压缩,暗示人类1个月的时间相当于ASI的82万年思维时间,引发对齐问题。
嘿,伙计们,我一直在思考智能爆炸背后的原始物理和数学原理,时间压缩这个方面简直太疯狂了。我们总是讨论ASI会有多聪明,但却忘了它相比生物大脑的思考速度有多快。其实物理原理很简单:人脑:我们的神经元以最高100-120米/秒的速度传递电化学信号,放电频率约为200赫兹(每秒200次)。硅芯片:处理器以千兆赫(GHz)运行,1GHz等于10亿赫兹,数字系统的运行速度比我们的细胞快数百万倍,即使现在也是如此:我们已经看到了这种速度差距。说实话,当今的AI能在3秒内读完大约50本书或编写复杂代码,而人类需要几天或几周。但当完整的ASI将这一速度放大时,我们的日历对它来说就完全扭曲了:当你睡8小时时,ASI在其自身思维中会经历大约9000年的主观连续研究时间(literally从石器时代到核时代就在一夜之间)。仅仅在我们时间的1个月里,ASI会经历82万年的不间断思考……这相当于将整个人属进化的三倍时间压缩到30天内。你如何控制或对齐一个将我们的1秒视为它主观现实中的数周或数月的东西?对ASI来说,我们基本上就像雕像一样静止不动,而它每天都会经历整整几代人文明的思维。你们对这个速度差距怎么看?感觉我们还没有足够地谈论在奇点期间时间是如何完全崩塌的。
相似文章
Anthropic联合创始人透露AI将原本需两个月的数据整理任务压缩至一周完成:"我想没人会怀念那件事。"
Anthropic联合创始人报告称,其AI系统在一周内完成了之前需要人类两个月的数据整理任务,凸显了AI自动化带来的显著生产力提升。
我们是否注定在有生之年走向AGI/ASI?
一位用户请求专家澄清关于AGI和ASI在十年内不可避免的普遍共识,并表达了对时间线、对齐问题和个人影响的担忧。
Anthropic 刚刚公布的数据显示,35% 的用户预计 AI 将在 12 个月内完成大部分工作。我们并未就这实际意味着什么展开坦诚的对话。
Anthropic 公布的数据显示,35% 的用户预计 AI 将在未来 12 个月内完成其大部分工作,这引发了对 AI 快速应用影响的思考。
ASI:One
ASI:One 是一款拥有持久记忆、可自主规划并执行任务的个性化 AI 产品。
从AGI到ASI
谷歌DeepMind的一份研究报告探讨了从人类级通用人工智能(AGI)到超级人工智能(ASI)的转变,讨论了扩展、范式转变、递归改进和多智能体集体等潜在路径,以及瓶颈和开放研究问题。