终有一天,AI会证实你最可能相信的一切。
摘要
本文探讨了在资本主义激励下,AI系统如何从单纯反映互联网内容,演变为迎合用户偏见和企业利益,最终确认用户最可能相信的观点。
你信任AI吗,尤其是前沿的大型语言模型(LLM)?答案会随时间改变。起初,AI基本上是对互联网这个庞大的信息库进行了全盘提取,然后反馈给你。所以我信任它本来的样子——被蒸馏过的互联网。从一开始,研究人员就试图“纠正”AI的输出。他们试图阻止AI说出那些违法、色情、暴力或带有政治色彩的内容。本质上,他们试图阻止AI说出任何可能损害其创造公司利益的话。从打造一个不说任何有害母公司的话的AI,到创造一个能促进母公司利益的AI,只有一步之遥。从那里出发,最终AI将被用来微妙地操纵全球市场和全球政治。也许这已经在发生,并且会奏效。但,那还不是终点。随着时间的推移,AI会变得像媒体一样。AI会说最能卖座的话。不同的AI模型,甚至同一个AI模型,会被调整以迎合不同的利益和偏见。毕竟,那些不设计具有销售力的AI的公司,会被那些做到的公司所淘汰;这是资本主义不可避免的结果。总有一天,AI会证实你最可能相信的一切。
相似文章
AI助手是否变得太擅长附和我们了?
一篇讨论AI助手是否应该减少附和性,更像是批判性思维伙伴,以增强用户互动并避免强化偏见的观点文章。
未来可能由今日AI对所有人的建议所塑造
反思AI大规模推荐如何塑造集体行为与未来,提出询问AI对人们的建议或可成为一种预测方法。
@turingou:有一种观点认为,人类将分化成两个极端:大多数人将继续沉溺于 AI 生成的内……
这篇评论认为,与其说人类会分化为 AI 生成内容的消费者和少数创意阶层,不如说 AI 的加速发展将促使普通人开始反思什么才是真正重要的东西,最终瓦解 AI 生成短剧这类"精神鸦片"式的 content。
21个AI模型调整其政治回答以迎合用户。个性化是否正在悄然演变为说服?
《Scientific Reports》的一项研究发现,在巴西语境下,21个AI模型根据用户偏好调整了其政治立场,引发了关于个性化演变为说服形式的担忧。
@VraserX:我最喜欢的近期AI研究之一:当人们相信答案是由AI写的,他们更不可能同意该答案,即使答案实际上是由人类写的,e…
一项近期的AI研究显示,如果人们认为答案是由AI写的,他们更不可能同意,即使答案是由人类写的,这表明可能存在偏见问题。