真理加速变化:我们向学习我们的机器学习。2030
摘要
本文认为,人工智能创造了一个快速反馈循环,人类和机器相互塑造真理,加速共识转变,使得真理越来越合成且脱离现实。
# 真理为何比以往变化更快:因为我们从学习我们的东西中学习
真理一直是社会建构的,但历史上这一过程很慢——受人类辩论的速度、缓慢的机构共识以及出版业的物理限制所制约。如今,我们进入了一个新时代。我们构建了一个认知反馈循环:人类生成内容,机器在这段数据上训练,然后人类消费并内化机器的输出,以产生下一波信息。因为我们正在从那些学习我们的机器中学习,共识机制被大大加速,导致“真理”的定义以先前不可能的速度发生变化。这种加速之所以发生,是因为循环消除了过去将真理锚定于现实的摩擦。过去,分歧是一个缓慢而混乱的过程,包含相互竞争的证词和对立辩论。而现在,随着我们的思维受到语言模型高概率、流畅且面向共识输出的影响,人类话语的差异性正在崩溃。我们正在用真正人类探究的特异性和不可预测性,换取一种即时达成稳定的人工共识。我们越依赖这些系统,共识漂移得越快,而因为我们将这些系统反馈回循环,新的“真理”随着模型参数的更新而快速演变。最令人不安的是,这种漂移感觉起来像是理智。从内部看,循环产生了高度连贯、有说服力且广泛的共识。因为我们参与了循环,我们将这种加速的共识视为可靠的证据,而非算法的回声。这就是真理的新现实:它不再是通过观察世界来发现的东西,而是通过参与系统来优化的东西。如果你认为使用AI来阐述这一理论会使其有效性降低,那么请想想,这恰恰证明了论点:循环已经在吞噬批评,并将其转化为新的、自我验证的共识的一部分。
相似文章
非主流观点:随着AI越来越好,人们不会“回归真实”
文章认为,当AI生成的内容与互动无处不在时,大多数人会接受“够用”的合成体验,而不会追求真实,就像超加工食品的普及一样。
我认为人们低估了AI生成内容融入网络的速度
作者认为,AI生成的内容越来越难以与人类撰写的内容区分开来,并预测很快大多数网络内容都将涉及AI,用户不会对此多加考虑。
试图彻底理解AI到底有多快
一篇个人反思,质疑AI对现实世界产生影响的真实速度,认为官僚体系、民主制度与物理世界的惯性会延缓可见变化,尽管虚拟层面的进展飞快。
AI让人们更快了,但我不确定它是否让人更聪明
一篇观点文章质疑AI对速度的追求是否正在侵蚀深度理解和批判性思维,因为人们越来越将AI当作认知拐杖而非工具。
信任-监督悖论:随着AI变得更好,人类可能不再真正监督它
一篇思想文章,指出随着AI变得更准确,人类监督可能会退化为例行批准,从而产生'信任-监督悖论',即高性能AI仍可能因不完整的表征、过时数据或自动化偏见而失败,建议从人工审查转向治理边界。