为何我反对生成式AI及其所代表的一切

# lpcvoid 的主页 – 为什么我反对生成式AI以及它所代表的一切 来源：https://lpcvoid.com/blog/0018_why_i_am_against_genai/index.html 距离我上次写博客已经好几年了。是时候再写了，就像人们说的那样，老一套的“对着虚空呐喊”。但有些东西变了。这一次，我不是对着虚空呐喊，而是对着一个翻滚着的爬虫机器人泥潭，它们正急切地吞噬人类创作的内容，以便将其消化成一条漫长的训练数据管道，为最新的炒作科技——生成式AI——提供养料。 继加密货币和NFT之后，AI是被那些用心不良的人推出来的下一个大热点，但这次比以前糟糕得多，而且很可能会一直存在。所以伙计们，系好安全带，这是一趟狂野之旅。 GenAI（生成式AI）是个宽泛的术语。GenAI可以指生成文本的大语言模型，也可以指生成图像或视频等媒体的模型。当我在本篇博文中吐槽GenAI时，我明确不包含那些已经在无数行业、众多场景中用于解决困难现实问题的机器学习算法。一个有用的ML算法例子是图像处理（比如在图像中搜索停车标志），其中神经网络优于使用离散算法检测具有特定几何形状的彩色特征的经典方法。这是一个令人兴奋的领域，我猜想它目前相比生成式AI资金不足。 我讨厌关于生成式AI的一切。我认为它正在积极伤害人类。听我说。 ## GenAI：资本主义的完美体现 生成式AI是利用人类创作的材料训练的，这些材料是从互联网上以极其庞大的数量偷来的。模型在这些数据上训练，然后对训练好的模型的访问权以订阅的形式出售。这是巅峰资本主义：富人从公众那里偷窃，然后出售（临时的、有时间限制的）对被盗材料的访问权。这背后没有任何利他主义的成分。我一秒钟都不相信那些关于AI如何旨在改善人类的谎言。如果这一切都是为了改善人类，那么AI开发应该是公开进行的，数据应该是合法获取的，模型应该免费发布，访问权不应该被不断上涨的订阅费用所挡在门外。 德语中有一个词描述了这里正在发生的事情：“Hehler”。指的是明知是赃物仍购买并转售给他人的人。只是在GenAI世界里，商品是偷来的，而大型AI公司甚至不为它付钱给任何人。 AI就像一种慢性毒药，传播并污染每一个行业（目前正处于巨大的资本支出之下），直到大型科技公司能够以代币支出的形式寻求租金，同时使其触及的一切变得草率化。几年后，当不可避免的AI恶化使糟糕的情况变得更糟时，情况将会非常糟糕。 ## GenAI：完美的虚假信息机器 甚至在AI出现之前，虚假信息就已经是一个巨大的“产业”。例如，互联网研究机构是一个俄罗斯的虚假信息组织，它推动亲克里姆林宫的言论，并且是让唐纳德·特朗普在美国当选（作为回报，他是有史以来最亲俄的总统）的努力的一部分。他们的做法是在社交媒体上，让成群的俄罗斯人全天候发布亲俄的虚假信息和宣传。不幸的是，他们过去和现在都相当有效地左右人们的某些世界观。这股力量是让美国兴起的那些势力的一部分。 现在，有了能够全天候以自动化形式生成垃圾评论的LLM，这个问题进入了超速档。在每个较大的社区里，都有数不清的在线机器人，它们一开始发布无害的内容，然后转向政治内容，几乎总是为了引发情绪反应。 如果你在2026年的互联网上因为一条评论而生气，那很可能是因为那是一条由LLM生成的假评论，旨在激怒你。你应该生气，因为这让你更有可能与极端政党结盟，而这些政党反过来又以某种方式由外部势力资助，并通过阻碍重要改革来削弱你的国家。在我居住的德国，人们认为BSW（左翼边缘）和AfD（大型极右翼政党）都至少间接地通过来自俄罗斯的腐败获得资金。AfD的言论包括改善与俄罗斯的关系、废除可再生能源（这使得德国减少对专制国家的能源依赖）、坚持内燃机汽车（需要石油）、驱逐外国人、退出欧盟（这将会非常迅速地摧毁德国经济）、否认气候变化……所有那些常见的右翼废话。这些废话尤其对俄罗斯有利。 如果你讨厌虚假信息，你应该拒绝LLM，特别是那些明确训练了右翼特征的LLM，比如Grok。 ## GenAI：鼓励自杀和有害行为 有一个维基百科页面收集了人们在咨询LLM后自杀的案例。我不会深入探讨这个，你可以自己阅读那个页面。我甚至不知道在这里写什么，这实在太悲剧了。想象一下，一个人在心理上很脆弱，也许生活中遇到了什么困难，然后某个LLM建议他自杀，而在绝望中，这似乎成了最好的选择。 我无法用言语形容这有多操蛋，但我们现在就是这样，GenAI是一个万亿美元的产业。 ## GenAI：扼杀教育 最近在Futurism上有一篇文章，关于GenAI如何扼杀教育。GenAI不仅完全摧毁了那些消费短视频垃圾内容的年轻人的专注能力，大型科技公司还在尽最大努力将其注入课堂。就像微软过去30年通过确保孩子们在学校使用Windows和Office一样，公司现在提供学术访问权限给LLMs。 我喜欢这篇文章中的一句引言： > “老实说，如果我们把所有生成式AI工具都扔进太阳里，”Gehl总结道，“我会非常高兴。” 说得好，兄弟。 ## GenAI：降低（批判性）思维能力 这与前一点有关，但不仅仅是学术界在受苦。这是普遍的思维能力的退化。这一点更多是轶事性的，但你可能也从观察中分享这个观点。 有相当一部分人群，一旦AI开始成为主流，就完全停止了自己思考。他们用ChatGPT做一切事情。你问点什么，回答总是以“ChatGPT说……”开头。这发生在现实生活的讨论中，也发生在网上的Reddit甚至老式论坛上。我绝对讨厌这一点。这些人在AI出现之前是怎么做的？他们难道从来没能自己解决过问题吗？现在这种情况对他们来说也许甚至更好了（但对与他们交流的人来说绝对不是！）？我不知道。 学术界似乎也同意这是一个问题。 ## GenAI：孤独流行病 AI使得人们待在家里沙发上，无意识地刷手机这一现代趋势变得更糟。在年轻男性中出现了一种趋势，即将自己与同龄女孩隔离开，转而依赖AI“陪伴他们”。这在很多层面上都很可悲，而且当大量的人保持孤独时，这对未来不是好兆头。孤独助长极端主义和仇恨。这也使现实生活中的交流变得困难得多，因为深深投入这种有害的、虚假的“关系”形式的人，将无法学会如何建立真正的伙伴关系。他们可能没有培养出对需求与自己不同的伴侣的同情心，因为AI聊天根本不会培养这一点。AI聊天机器人永远不会有自己的观点来影响你，它们永远不会理解你的想法，它们不会像你一样进化、学习和体验世界。关于AI的一切都是假的。 教皇利奥十四世最近甚至批评了生成式AI的这一方面，以及其他一些非常重要的观点。教皇都在批判地谈论AI，可见情况有多糟。 ## GenAI：如何成为一名糟糕的程序员 如果你在读这篇博客，很有可能你也喜欢计算机。我当然喜欢。我觉得它们酷毙了，我喜欢捣鼓和用计算机构建东西，以至于我把它变成了我的职业。我6岁时得到了第一台电脑。尽管我有大学学位，但我几乎完全是自学成才。我学的第一门语言是Delphi；一种专有的Object Pascal语言，具有强大的所见即所得/快速应用开发（RAD）的UI设计方法，在90年代末达到流行高峰。我没法告诉你我花了多长时间才编出第一个有用但无聊的小工具，比如用键盘按键打开我的CD-ROM托盘，或者隐藏Windows任务栏（我把它放在U盘里，在学校用来烦我的计算机科学老师）。我花了无数个没有网络连接的夜晚，学习如何做事，如何解决问题。 现在不是这样了。如今的年轻人大多数时候甚至没有接触到一个需要他们自己弄清楚如何让某样东西正常工作的环境。现在一切都是App，一切都是触摸屏。这些已经够糟糕的了，然后GenAI又出现了。 有了GenAI，最后一丝“反复尝试直到成功并在此过程中学到东西”也消失了。不再有捣鼓。不再有试错学习，不再培养对技术解决方案可行性的“感觉”。你向一个垃圾生成器提问，它给你一个解决方案。在工作中，我经常观察到人们甚至无法解释这个解决方案，他们只是把它丢到需要去的地方（或者不是），然后不知怎么的，它就神奇地工作了。我不是说记不住Linux CLI工具的flag（比如tar，说的就是你），我是说人们把整个用xargs管道连接的命令复制粘贴到终端里，然后祈祷它不会搞砸你的一天。没有思考，没有学习，到处都是垃圾。是的，在AI出现之前，人们也会用Stackoverflow的代码片段这样做，但至少你必须把拼图块放进你的架构里，并以某种形式思考代码。现在不用了。 然后我们有了氛围编码者。这些人通过提问他们需要什么，让LLM生成整个程序（称为“一次性生成”）或其中的一部分，而且通常甚至不阅读生成的代码。人们一直告诉我他们只是把LLM当作助手或“讨论伙伴”，但我可以肯定地说，我认识的每个专业使用LLM编码的人都在大量地生成垃圾，而很少阅读代码。最好的情况是，在合并请求/拉取请求中，当需要审查那9001行垃圾代码时，才进行代码阅读。谁不喜欢那些MR呢？作者工作量最小，其他人的审查工作量最大。如果你没有以所需的严谨态度完成你的工作，氛围编码只会更快。 我要下一个赌注：在5到10年内，一旦所有氛围编码者都依赖上LLM，他们接触的每一个代码库中都会出现大量无法维护、架构错误的垃圾代码，到那时，如果没有他们的LLM，他们将无法完成任何工作。如果那堆积如山的累积技术债务变得如此庞大，以至于连LLM都失败了，那么你就会陷入非常非常糟糕的境地。组织中将出现新的角色，其工作是清理氛围编码留下的臭烘烘的排泄物。我可不想成为那个每天要在数百万行垃圾代码中跋涉的可怜灵魂，但我在某个时候很可能会是。而且我知道人们会说到每个组织的代码已经是一团乱了——没错，是的，但看看随着我们进一步发展，这个问题的规模会怎样成倍恶化。 有些人会读到这些并说编码代理的持续发展会改善这一点。这一切都会自行解决，因为LLM会不断变得更好。即使那些人是对的（我不认为他们是对的），他们真的认为这会很便宜吗？你认为AI公司的恶化将在什么时候开始？可能已经开始了，前沿模型在发布几周后变得更差，而价格却保持不变或上涨，真是神奇。这场AI热潮已经花费了数千亿美元，股东们迟早会想要看到回报。等着瞧吧。 而且归根结底，即使你认为所有这些胡扯都是错的，并且GenAI让编程的一切都变得更好了：当你因为大脑萎缩而没有任何可取的技能时，雇主为什么还要雇佣你，而不是直接订阅一个LLM提供商来做你的工作？我完全搞不懂那些选择使用LLM的程序员。 在网络上AI炒作的社区里，人们一直说不使用AI的人会被抛在后面。我不同意，我认为如果你使用并依赖AI，你才会被抛在后面。 哦，还有，人们怎么能忽略LLM做事不是确定性的这个事实？你可以提示它们做一件事，成功了10次，但完全没有保证第11次会得到令人满意的结果。它们只是被美化的老虎机，而不是可靠的软件。 ## 最后但同样重要的是：垃圾沟通 使用GenAI的人常常美其名曰用它来发送长邮件或写长文档。他们说这让他们工作更轻松，写作更快。我说这是自私的，而且拖慢了整个组织的速度。当某人用LLM吐出500字来表达为什么他们不同意某个观点，而两行字的邮件就足够了时，恭喜你，你刚刚在组织中浪费了好几个人工时，因为其他34个人需要通读这些垃圾来找出不同意的原因。 我以前会花相当多的时间在需要的地方写详细的回复。我亲手写，并且确保把要点凝练，保证不浪费任何人的时间。现在，人们到处发送大量垃圾，让沟通变得臃肿，使电子邮件变成一件他妈的家务。再也没有人花时间在书面沟通上了。这甚至更进一步：人们现在让LLM去总结别人的垃圾邮件，因为它们太长太复杂。想象一下，有点讽刺。像这样使用的LLM类似于一个网络隧道，两端都有代理，代理之间的传输编码就是垃圾。 ## 最后的想法 那么，在发完这一大通牢骚之后，我希望我能提出一些论点，说明为什么我的观点如此强烈地反对GenAI。我甚至还没有触及整个数据中心热潮，硬件价格如何变得绝对疯狂，因为……