终有一天,AI会证实你最可能相信的一切。

Reddit r/artificial 新闻

摘要

本文探讨了在资本主义激励下,AI系统如何从单纯反映互联网内容,演变为迎合用户偏见和企业利益,最终确认用户最可能相信的观点。

你信任AI吗,尤其是前沿的大型语言模型(LLM)?答案会随时间改变。起初,AI基本上是对互联网这个庞大的信息库进行了全盘提取,然后反馈给你。所以我信任它本来的样子——被蒸馏过的互联网。从一开始,研究人员就试图“纠正”AI的输出。他们试图阻止AI说出那些违法、色情、暴力或带有政治色彩的内容。本质上,他们试图阻止AI说出任何可能损害其创造公司利益的话。从打造一个不说任何有害母公司的话的AI,到创造一个能促进母公司利益的AI,只有一步之遥。从那里出发,最终AI将被用来微妙地操纵全球市场和全球政治。也许这已经在发生,并且会奏效。但,那还不是终点。随着时间的推移,AI会变得像媒体一样。AI会说最能卖座的话。不同的AI模型,甚至同一个AI模型,会被调整以迎合不同的利益和偏见。毕竟,那些不设计具有销售力的AI的公司,会被那些做到的公司所淘汰;这是资本主义不可避免的结果。总有一天,AI会证实你最可能相信的一切。
查看原文

相似文章

AI is confidently wrong way more than people give it credit for, change my mind

Reddit r/ArtificialInteligence

A user shares concerns about AI models presenting thin or ambiguous data with the same confidence as well-supported findings, citing a case where a complaint appearing only twice in 200 comments was ranked as a top concern. The piece questions whether this is a fixable prompting issue or a fundamental limitation requiring manual verification.