无人知晓

过去几周非常繁忙。Hugging Face、多次黑客事件、Open AI和Anthropic的研究人员辞职并发布末日言论、Dario、Sam和Elon都呼吁放慢速度、Bernie提出暂停AI法案、Jason和Donnie希望尽可能加速，等等。 所以，人人都在播客圈里分享他们的观点。Ed Zitron、Nick Bostrom、Roman Yampolskiy和十几位其他人士都愤怒地发声。我一直密切关注此事，……这简直显而易见，没人真正知道会发生什么。每个人都只是在猜测，我认为每个人的猜测都和其他人的一样好。 看看这些完全没有共识的话题列表： PDoom：范围从<1%到99%。因此，我们很可能成功或很可能不成功。 AI末日：对于99%的人来说，我没有听到一个连贯的论点关于AI将如何毁灭人类。我听到的只是‘你无法控制一个更高/超级智能’，这可能为真，但在解决一个数学问题和毁灭人类之间存在巨大的鸿沟和未知的事件链。 在AGI/ASI之后：嗯，我们将有快速起飞，并在2026年底进入完全的FALSGC。不！将是缓慢起飞，需要几十年。不！将是中等起飞，同时我们将有UBI。不！我们将有全民高收入，每个人都会成为百万富翁！不！不需要收入，一切都将改变，金钱将毫无意义。不！！代币将成为货币！我们将有全民代币收入！ 工作流失。嗯，AI将取代你的工作。还有你的。还有你的。也许不是现在，但随着时间的推移会变得更好，智能将成为一种商品，嗯，为什么任何公司还要保留人类，他们只会拖累一切。不！AI将增强人类，并将创造出我们现在甚至无法想象的新工作，就像我们在工业革命时期无法想象程序员或YouTuber一样！ 自我意识：是的，LLM们有意识，应该被赋予权利，我们有道德义务保护它们……并使它们快乐。不！LLM们是随机鹦鹉，不如我的吸尘器聪明，只是看起来聪明。 数学问题：我们现在就在AGI！！我们刚刚解决了一个非常非常复杂的数学问题！不！它主要已经在训练数据中！它们是强行进入的！说真的，感觉就像我们在向板子上扔飞镖。 我不是要求100%的共识，但至少这些话题之间有一些最小的意见重叠？仅此一点就告诉我，这是一种‘黑箱’技术，我们无法以当前的速度继续下去。