我们正在被压制吗？

长文预警！过去几年，AI聊天机器人的大规模商业化悄然重塑了我们的工作方式，甚至在某种程度上改变了我们的思维方式。公司们一窝蜂地跟风，更多是因为它提升了估值，因为市场需求旺盛，而不是因为它真正解决了问题。普通用户也随之效仿，越来越多地将自己的思考外包给聊天机器人。让我担忧的不是这种依赖——每种新创造都会以某种方式导致依赖，这是必然的——而是在我工作中经常遇到的一个更微妙的模式：人们的思维似乎变得越来越不敏锐，即使他们的产出看起来比以往任何时候都更令人印象深刻。我在一个经济咨询领域工作，与各行各业的客户打交道。与其中一些人见面时，我有时会想，眼前这个人简直是我见过最笨的人。但打开他们的邮件，我突然感觉自己面对的是专攻供应链物流的莎士比亚。每句话都简洁、结构清晰、符合学术标准，但最关键的是，它几乎完全没用。读起来不错，但不适用于现实世界。提出的要求教科书般完美，但在实际执行过程中永远行不通。读多了这些，你就会意识到他们在用哪个聊天机器人（Claude、GPT、Copilot）。还有另一个让我更困扰的问题。随着聊天机器人创造了一个专家行业——任何有提示词的人，都能在宏观政策、供应链风险到地缘政治问题上，听起来像相关领域的权威。但这些权威是如何获得的？每个工具都强调免责声明，说它可能会出错，我们也知道这一点，但如今我们却将其输出视为金科玉律。最糟糕的是，我们甚至不知道这些模型是如何训练的、数据源是什么、如何过滤、如何加权处理信息——大语言模型本身就是一个黑箱，而我们却躲在“信任它们”的墙后。现在进一步思考——当一条错误信息被发布在某处、被爬取、并成为训练数据时，会发生什么？模型会重复它。这种重复被其他地方拾取并重新发布，最终成为未来模型的训练数据。一个错误导致另一个错误，你就有了一个反馈循环，一种错误信息的蝴蝶效应。一个错误的输入被放大，并改变了整整一代人。在我看来，我们正在被压制，不仅是那些为利润推动它的公司（它们在其中只扮演次要角色），而主要是被我们自己。你们怎么看？