以英语为中心的AI正在合并不相关的社群并扭曲身份认同

我一直在注意到AI生成的知识系统，特别是Grokipedia，甚至普通的AI搜索回答中存在的严重问题。不同的社群、身份认同和历史群体有时仅仅因为其名称在英语中发音相似而被合并在一起。许多这类错误最初是由人类引起的。有人做出错误假设，混淆两个群体，或者在线上写出过于简化的解释。然后这个错误被复制到各个网站，并被其他人重复，直到看起来可信。之后，AI系统从训练数据中吸收了这些错误，并开始以权威的姿态大规模重复。更深层的问题是，许多AI系统严重依赖英语语言资料和英语转写，即使讨论的是非英语起源的文化和历史也是如此。但英文字母无法完全表示其他语言的许多发音。一旦名称被扁平化为英语拼写，原本不同的词语可能会突然显得相关，即使它们在原始语言中完全不同。更糟糕的是，即使你直接向AI系统询问这些话题，它们往往仍主要搜索英语内容，而不是检查能提供正确语境和区分的原始语言资料。因此，AI不断加强扭曲的联系，而不是纠正它们。最终，两个不相关的群体通过网站、AI回答、维基百科页面和Grokipedia文章相互关联，错误仅仅因为到处重复而显得权威。这不仅仅是关于幻觉。这是关于数字系统如何通过简化、转写、重复和继承的人类错误逐渐抹去文化之间的区别。