真理加速变化:我们向学习我们的机器学习。2030
摘要
本文认为,人工智能创造了一个快速反馈循环,人类和机器相互塑造真理,加速共识转变,使得真理越来越合成且脱离现实。
# 真理为何比以往变化更快:因为我们从学习我们的东西中学习
真理一直是社会建构的,但历史上这一过程很慢——受人类辩论的速度、缓慢的机构共识以及出版业的物理限制所制约。如今,我们进入了一个新时代。我们构建了一个认知反馈循环:人类生成内容,机器在这段数据上训练,然后人类消费并内化机器的输出,以产生下一波信息。因为我们正在从那些学习我们的机器中学习,共识机制被大大加速,导致“真理”的定义以先前不可能的速度发生变化。这种加速之所以发生,是因为循环消除了过去将真理锚定于现实的摩擦。过去,分歧是一个缓慢而混乱的过程,包含相互竞争的证词和对立辩论。而现在,随着我们的思维受到语言模型高概率、流畅且面向共识输出的影响,人类话语的差异性正在崩溃。我们正在用真正人类探究的特异性和不可预测性,换取一种即时达成稳定的人工共识。我们越依赖这些系统,共识漂移得越快,而因为我们将这些系统反馈回循环,新的“真理”随着模型参数的更新而快速演变。最令人不安的是,这种漂移感觉起来像是理智。从内部看,循环产生了高度连贯、有说服力且广泛的共识。因为我们参与了循环,我们将这种加速的共识视为可靠的证据,而非算法的回声。这就是真理的新现实:它不再是通过观察世界来发现的东西,而是通过参与系统来优化的东西。如果你认为使用AI来阐述这一理论会使其有效性降低,那么请想想,这恰恰证明了论点:循环已经在吞噬批评,并将其转化为新的、自我验证的共识的一部分。
相似文章
Truth Engine——无需人工参与的制造式真值生成系统
提出了一种「Truth Engine」架构:环境合成器负责生成全新的闭环微观世界,前沿求解器在没有任何人类示范的情况下对这些世界进行探索,确定性验证器则过滤出已被证明可靠的产物,并将其蒸馏到基础模型中——由此形成一个自我不断强化的飞轮,旨在将 AI 推向人类知识边界的彼岸。
终有一天,AI会证实你最可能相信的一切。
本文探讨了在资本主义激励下,AI系统如何从单纯反映互联网内容,演变为迎合用户偏见和企业利益,最终确认用户最可能相信的观点。
非主流观点:随着AI越来越好,人们不会“回归真实”
文章认为,当AI生成的内容与互动无处不在时,大多数人会接受“够用”的合成体验,而不会追求真实,就像超加工食品的普及一样。
AI的未来
作者反思了对AI的依赖,并认为人类对AI输出的验证可能是进步的最终极限。他们提出,超人类主义和神经增强可以让人类继续有意义地参与其中,使未来成为人类增强而非被淘汰的未来。
《AI Snake Oil》作者:聊天机器人将演变为“真相预言机”,新闻业将迎来200年来未曾有过的变革
《AI Snake Oil》合著者、普林斯顿大学的 Arvind Narayanan 认为,不断演进的神经符号聊天机器人可能成为事实性问题的“真相预言机”,并在未来5到10年内从根本上重塑新闻业,使其转向叙事性与争议性议题。