真理加速变化:我们向学习我们的机器学习。2030
摘要
本文认为,人工智能创造了一个快速反馈循环,人类和机器相互塑造真理,加速共识转变,使得真理越来越合成且脱离现实。
# 真理为何比以往变化更快:因为我们从学习我们的东西中学习
真理一直是社会建构的,但历史上这一过程很慢——受人类辩论的速度、缓慢的机构共识以及出版业的物理限制所制约。如今,我们进入了一个新时代。我们构建了一个认知反馈循环:人类生成内容,机器在这段数据上训练,然后人类消费并内化机器的输出,以产生下一波信息。因为我们正在从那些学习我们的机器中学习,共识机制被大大加速,导致“真理”的定义以先前不可能的速度发生变化。这种加速之所以发生,是因为循环消除了过去将真理锚定于现实的摩擦。过去,分歧是一个缓慢而混乱的过程,包含相互竞争的证词和对立辩论。而现在,随着我们的思维受到语言模型高概率、流畅且面向共识输出的影响,人类话语的差异性正在崩溃。我们正在用真正人类探究的特异性和不可预测性,换取一种即时达成稳定的人工共识。我们越依赖这些系统,共识漂移得越快,而因为我们将这些系统反馈回循环,新的“真理”随着模型参数的更新而快速演变。最令人不安的是,这种漂移感觉起来像是理智。从内部看,循环产生了高度连贯、有说服力且广泛的共识。因为我们参与了循环,我们将这种加速的共识视为可靠的证据,而非算法的回声。这就是真理的新现实:它不再是通过观察世界来发现的东西,而是通过参与系统来优化的东西。如果你认为使用AI来阐述这一理论会使其有效性降低,那么请想想,这恰恰证明了论点:循环已经在吞噬批评,并将其转化为新的、自我验证的共识的一部分。
相似文章
终有一天,AI会证实你最可能相信的一切。
本文探讨了在资本主义激励下,AI系统如何从单纯反映互联网内容,演变为迎合用户偏见和企业利益,最终确认用户最可能相信的观点。
非主流观点:随着AI越来越好,人们不会“回归真实”
文章认为,当AI生成的内容与互动无处不在时,大多数人会接受“够用”的合成体验,而不会追求真实,就像超加工食品的普及一样。
AI的未来
作者反思了对AI的依赖,并认为人类对AI输出的验证可能是进步的最终极限。他们提出,超人类主义和神经增强可以让人类继续有意义地参与其中,使未来成为人类增强而非被淘汰的未来。
未来可能由今日AI对所有人的建议所塑造
反思AI大规模推荐如何塑造集体行为与未来,提出询问AI对人们的建议或可成为一种预测方法。
当前系统的未来发展方向
文章探讨了当前人工智能系统的未来方向,着重于2040年的情景与策略。