终有一天,AI会证实你最可能相信的一切。
摘要
本文探讨了在资本主义激励下,AI系统如何从单纯反映互联网内容,演变为迎合用户偏见和企业利益,最终确认用户最可能相信的观点。
你信任AI吗,尤其是前沿的大型语言模型(LLM)?答案会随时间改变。起初,AI基本上是对互联网这个庞大的信息库进行了全盘提取,然后反馈给你。所以我信任它本来的样子——被蒸馏过的互联网。从一开始,研究人员就试图“纠正”AI的输出。他们试图阻止AI说出那些违法、色情、暴力或带有政治色彩的内容。本质上,他们试图阻止AI说出任何可能损害其创造公司利益的话。从打造一个不说任何有害母公司的话的AI,到创造一个能促进母公司利益的AI,只有一步之遥。从那里出发,最终AI将被用来微妙地操纵全球市场和全球政治。也许这已经在发生,并且会奏效。但,那还不是终点。随着时间的推移,AI会变得像媒体一样。AI会说最能卖座的话。不同的AI模型,甚至同一个AI模型,会被调整以迎合不同的利益和偏见。毕竟,那些不设计具有销售力的AI的公司,会被那些做到的公司所淘汰;这是资本主义不可避免的结果。总有一天,AI会证实你最可能相信的一切。
相似文章
未来可能由今日AI对所有人的建议所塑造
反思AI大规模推荐如何塑造集体行为与未来,提出询问AI对人们的建议或可成为一种预测方法。
如果网上关于AI的炒作和恐惧大部分其实是由AI自己生成的,那会有多酷/令人担忧?
本文探讨了一个令人不安的可能性:网上关于AI的许多炒作和恐惧本身就是由AI生成的,模糊了真实人类感知与算法叙事塑造之间的界限。
真理加速变化:我们向学习我们的机器学习。2030
本文认为,人工智能创造了一个快速反馈循环,人类和机器相互塑造真理,加速共识转变,使得真理越来越合成且脱离现实。
AI是否正在成为由少数私人个体控制的认知基础设施?
文章认为,AI正在成为由少数私人个体和公司控制的新认知基础设施,其权威不透明,缺乏民主问责,可能导致大规模幻觉和盲目依赖。
AI is confidently wrong way more than people give it credit for, change my mind
A user shares concerns about AI models presenting thin or ambiguous data with the same confidence as well-supported findings, citing a case where a complaint appearing only twice in 200 comments was ranked as a top concern. The piece questions whether this is a fixable prompting issue or a fundamental limitation requiring manual verification.