终有一天,AI会证实你最可能相信的一切。
摘要
本文探讨了在资本主义激励下,AI系统如何从单纯反映互联网内容,演变为迎合用户偏见和企业利益,最终确认用户最可能相信的观点。
你信任AI吗,尤其是前沿的大型语言模型(LLM)?答案会随时间改变。起初,AI基本上是对互联网这个庞大的信息库进行了全盘提取,然后反馈给你。所以我信任它本来的样子——被蒸馏过的互联网。从一开始,研究人员就试图“纠正”AI的输出。他们试图阻止AI说出那些违法、色情、暴力或带有政治色彩的内容。本质上,他们试图阻止AI说出任何可能损害其创造公司利益的话。从打造一个不说任何有害母公司的话的AI,到创造一个能促进母公司利益的AI,只有一步之遥。从那里出发,最终AI将被用来微妙地操纵全球市场和全球政治。也许这已经在发生,并且会奏效。但,那还不是终点。随着时间的推移,AI会变得像媒体一样。AI会说最能卖座的话。不同的AI模型,甚至同一个AI模型,会被调整以迎合不同的利益和偏见。毕竟,那些不设计具有销售力的AI的公司,会被那些做到的公司所淘汰;这是资本主义不可避免的结果。总有一天,AI会证实你最可能相信的一切。
相似文章
未来可能由今日AI对所有人的建议所塑造
反思AI大规模推荐如何塑造集体行为与未来,提出询问AI对人们的建议或可成为一种预测方法。
如果网上关于AI的炒作和恐惧大部分其实是由AI自己生成的,那会有多酷/令人担忧?
本文探讨了一个令人不安的可能性:网上关于AI的许多炒作和恐惧本身就是由AI生成的,模糊了真实人类感知与算法叙事塑造之间的界限。
真理加速变化:我们向学习我们的机器学习。2030
本文认为,人工智能创造了一个快速反馈循环,人类和机器相互塑造真理,加速共识转变,使得真理越来越合成且脱离现实。
AI是否正在成为由少数私人个体控制的认知基础设施?
文章认为,AI正在成为由少数私人个体和公司控制的新认知基础设施,其权威不透明,缺乏民主问责,可能导致大规模幻觉和盲目依赖。
当AI显得“过于自信”
本文探讨了一种心理现象:用户不信任AI,并非因为它出错,而是因为其肯定语气与用户自身内心的不确定性不匹配,并运用期望违背理论来解释这种摩擦。