AI是否正在成为由少数私人个体控制的认知基础设施？

大多数人把AI当成一个方便的黑箱。问它点什么，它给出答案，然后你继续。但我们正在不知不觉地陷入更大的局面。我认为，谁控制了知识的基础设施，谁就控制了人们的思想。教会通过控制经文占据了这一地位数百年。印刷机通过分散解释权打破了这种垄断。而AI正在反其道而行之——将其重新集中到少数几家没有民主问责的公司手中。 “AI说X”在结构上等同于“研究显示X”——你引用了某种无法直接接触的权威。区别在于，对于研究，理论上你可以追溯来源。而对于AI，其链条设计上就是不透明的。并且它以相同的置信度给出错误和正确的答案。没有任何表达怀疑的质感。 AI并非中立，它被大量校准。在西方，模型被训练得更“道德”，也许更自由，并且总是试图给你一个更“平衡”的观点。中国的AI根本不允许你接触任何可能抹黑CCP的内容。 在你缺乏专业知识的领域越是依赖AI，就越难以评估是否应该信任它。AI最适合那些已经足够了解并能发现其错误的人——而大多数人的使用方式恰恰相反。 OpenAI表示，我们总人口的10%已经开始使用ChatGPT。无论这个数字是否准确，我感觉我们正在慢慢进入一种对AI模型的大规模幻觉/盲目依赖状态。我们不仅是在卸载认知努力，我们正在将塑造数十亿人理解现实的调节权交给一小群未经选举、基本上不受监管的私人个体。