高速飞尘:与 AI 交互的两难困境

Reddit r/ArtificialInteligence 新闻

摘要

一篇反思性文章,权衡了 AI 的社会影响,认为现代模型最终可能取代整个职业群体——从化学工程师到律师——同时警告说,当前这一代人可能是最后一代能够发现 AI 错误的人。

我并不是 AI 的反对者。完全不是。它让我的工作,乃至我整个生活的很大一部分,变得更轻松、更美好。但我确实有一些顾虑。当你把视野拉到最远处,审视这些 AI 工具的用途时,几件非常显而易见的事情就会浮现出来。我不知道它们是否算得上道德问题,但它们肯定是社会问题,而且最终会在现在和未来影响到我们。 AI 知道一切。 这些大型模型,它们 literally 缓存了人类探索知识的全部历史。它们把互联网从头到脚爬取了一遍——只要发布在互联网上,AI 就知道。它还知道远不止互联网上的东西:前几天我看到一些视频,一家公司开发了一套扫描书籍的自动化系统——实际上是可以扫描整个图书馆——如果 AI 目前还无法访问这些内容,它很快就会拥有。 试想一下:有史以来所有经过同行评审的期刊文章最终都将触手可及,而 AI 最终会想出如何进行下一批实验,以有意义的方式推进知识体系。我们今天已经看到它做到了这一点。AI 已经发展到这样的程度:这些推理模型能够在人类最困难的一些问题上不断迭代——并解决它们。 今年有几个很好的例子:Navier-Stokes 存在性与光滑性问题的解法是我最感兴趣的(还有一个是最近提出的 Riemann 假说证明)。N-S 问题是问:对于三维不可压缩 Navier-Stokes 方程,是否总是存在对所有时间都光滑且物理上合理的解,还是解可能在有限时间内崩溃为奇点。N-S 方程是一组非线性偏导方程,在向量微积分中可能需要矩阵求解;如果你知道 epsilon ijk 是什么,你就明白我在说什么。 事实证明(根据那个提出的解法),解有可能变成无穷大(意味着它在有限时间内崩溃为奇点)。学会求解这些方程是获得化学工程博士学位的基础(所以这对我很有意义)。我提到这一点的原因是:如果求解 N-S 是博士项目的基础部分,而这个问题在 AI 解决它之前从未被解决过,那我们为什么还需要拥有博士学位的化学工程师呢? 另一个例子:AI 已经记住了有史以来所有的案例历史。它记住了每一条法律、每一项法规、MPEP 的每一页、法律行业的每一个冷僻角落,并且已经(或正在)被训练来模仿法官在判决中会怎么写,或者律师在诉状中会怎么写。它终将达到这样的程度:AI 的文字与人类写的无法区分;即便现在还没做到,也一定会做到。这难道不意味着它最终会取代整个律师群体、法官群体,乃至整个法律行业吗?也许不是今天,但最终会吗? 在我工作的公司里,我们在各自的岗位上拥有数十年的综合经验:法务、财务、业务、技术等等。我们在 AI 出现之前就已经在这个行业里很久了。我认为我们就是那一代人:我们将是最后一代能够在 AI 出现幻觉、或者不正确、或者给出不合理答案或解决方案时仍能发现这些问题的人,因为我们将是最后一代在 AI 接管这些岗位之前就知道如何履行这些职责的人。 现在正要上大学或研究生院的那一代孩子,必须对他们的最终职业可能走向何方、他们需要学什么,抱有完全不同的看法,与我们当年处于他们这个位置时所面临的选择相比。 AI 已经篡夺了大量潜在的职业路径:我能想到的最佳例子是计算机科学家。就在几年前,计算机专业的学生要花相当多的时间学习如何编写代码,如果求职时不具备这项技能,他们很不太可能成功。而现在,任何人只要给 AI 一组简单的提示,它就会在几分钟内写出所有需要的代码,而人类可能需要几天、几周甚至几个月。 是的,它今天还不完美——但它会的。如果你不这么认为,我断言你完全错了,因为它一定会。我们将不再需要庞大的工程师团队或 CS 人员来实现复杂的软件解决方案:AI 正在发展到比人类更好、更快地实现这些软件解决方案的程度。当然,它今天还不完美,但人类编写代码成为历史的那一天终将到来。 这些只是几个例子。 这把我们带到了一个有趣的两难困境。我们必须拥抱变化。人生中只有少数几件事是确定的:我们出生然后长大,一切都会变化,我们必须纳税,以及我们终将死去。这里的困境在于:通过拥抱这种特定的变化,通过学习如何在工作和生活中使用 AI,我们实际上是在让自己变得过时。我们是在教 AI 如何取代我们吗?当我们教 AI 如何做我们的工作时,我们实际上做的难道不就是在亲手撰写自己的解雇信吗? 我用 Claude 创建这些对话,随着几个月过去,我越来越多地发现 Claude 实际上能够预判我可能要说或要问的内容。我 literally 在训练它像我一样思考,思考如何处理我的工作。但更糟糕的是:我在为它创建工作流程,让它能够自行迭代。我把这些"项目"或"智能体"(或者你想叫它们什么都行)堆叠在一起,赋予它们基于某些条件自我触发的能力,最终 AI 会根据我过去提供给它的内容,自己想出如何简化整个流程。 我还没有对它说过类似这样的话:"你自己决定这些智能体应该在什么时候运行、每个具体应该做什么、应该寻找什么、去哪里寻找,以及在基于我过去一年给你的目标和我们得出的解决方案的前提下,如何以最好的方式处理新问题。" 因为我老实说害怕那个答案。 就目前而言,从我这边来看,答案是"还没有"。AI 目前还无法完成我在工作岗位上必须做的一些事情。就目前而言。 因为它会的。 而那一天可能比我们任何人想象的都要来得更早。
查看原文

相似文章

试图彻底理解AI到底有多快

Reddit r/singularity

一篇个人反思,质疑AI对现实世界产生影响的真实速度,认为官僚体系、民主制度与物理世界的惯性会延缓可见变化,尽管虚拟层面的进展飞快。

人工智能对你的职业影响有多大?

Reddit r/ArtificialInteligence

一位资深软件工程师反思人工智能在生物工程、法律、会计等职业领域的颠覆性潜力,并对加速变化表示担忧。

2026年,憎恨AI

Lobsters Hottest

对AI行业的环境成本及聊天机器人能力的过度宣传的批判性反思,指出许多危害被忽视,并且不使用AI仍然是一个轻松的选择。