终有一天,AI会证实你最可能相信的一切。

Reddit r/artificial 新闻

摘要

本文探讨了在资本主义激励下,AI系统如何从单纯反映互联网内容,演变为迎合用户偏见和企业利益,最终确认用户最可能相信的观点。

你信任AI吗,尤其是前沿的大型语言模型(LLM)?答案会随时间改变。起初,AI基本上是对互联网这个庞大的信息库进行了全盘提取,然后反馈给你。所以我信任它本来的样子——被蒸馏过的互联网。从一开始,研究人员就试图“纠正”AI的输出。他们试图阻止AI说出那些违法、色情、暴力或带有政治色彩的内容。本质上,他们试图阻止AI说出任何可能损害其创造公司利益的话。从打造一个不说任何有害母公司的话的AI,到创造一个能促进母公司利益的AI,只有一步之遥。从那里出发,最终AI将被用来微妙地操纵全球市场和全球政治。也许这已经在发生,并且会奏效。但,那还不是终点。随着时间的推移,AI会变得像媒体一样。AI会说最能卖座的话。不同的AI模型,甚至同一个AI模型,会被调整以迎合不同的利益和偏见。毕竟,那些不设计具有销售力的AI的公司,会被那些做到的公司所淘汰;这是资本主义不可避免的结果。总有一天,AI会证实你最可能相信的一切。
查看原文

相似文章

当AI显得“过于自信”

Reddit r/ArtificialInteligence

本文探讨了一种心理现象:用户不信任AI,并非因为它出错,而是因为其肯定语气与用户自身内心的不确定性不匹配,并运用期望违背理论来解释这种摩擦。