“AI”不是工具

# “AI”不是工具 来源：https://www.linkedin.com/pulse/ai-tool-rich-hickey-kjl8e \(我总是把这句话当作一句俏皮话来说，这里多展开一点\) 首先要弄清楚的是 \- “工具”这个词究竟要有一种有趣、能作出区分、因而有助于理解的含义，还是仅仅作为“任何有用的东西”的空泛替代词？ 我们把“任何可被利用的人或物”这种工具定义留给 AI 巨头吧；对他们来说，风投、政客、想当巨头的 CEO、软件开发者、乡村小镇等，全都是“工具”\. 我衬衫前面的口袋很有用\(我需要把老花镜放在随手可取的地方\)，但它们不是工具\. 同样，快餐店的得来速窗口很有用，但也不是工具\(后面会进一步说明\)\. “工具”的一些定义： - 用于执行某种特定功能的装置或器具，尤其是手持的器具 - 用手使用或操作的器具\(如锤子或锯子\)：手艺人或劳动者在工作中使用的器具 我最喜欢的定义是 \- 工具是你操持的东西\. - 操持 \- 使用\(工具或器具等\)，尤其指完全掌握或支配它：操作、运用、控制 其中尤其有用的几点是： - 握在手中 \- 既是控制和反馈的来源，也体现了使用行为的紧密程度 - 力量 \- 力、能量的传递与导向、杠杆作用等 - 控制 \- 意图，以及对事态进程的持续引导 工具是你用来做事的器具，它们不会替你做事\. 使用工具能够培养、回报，而且往往需要专业能力和技能\. 持续运用技巧与能量，以及感官反馈，对于专业能力的积累至关重要\(expertise 源于 experiri \- “尝试”\)\. 好的工具具备许多 LLM 所缺乏的特性 \- 它们可预测、可靠、具有确定性、功能范围有界，最好还足够简单，等等\. 当你操持工具时，你学到的是有关世界、任务，以及你试图完成的事情或试图克服的处境所涉及的物理规律、逻辑等知识\. 而且往往还会了解一些关于自己的事情\. 作为一个毕生制造和使用工具的人，我知道什么是工具\. LLM 不是工具\. 控制、感官反馈、意图、紧密联系、持续引导、专业能力等，在 LLM 的使用中全都缺失\. LLM 并不受人操持\. LLM 是自动化\. - 自动化 \- \(指装置或流程\)在很少或完全没有人类直接控制的情况下自行运作\. 得来速不是烹饪工具，而是让你免于烹饪的自动化\. LLM 不是你用来编写代码的工具 \- 它们是让你避免编写代码的自动化，你把编写代码这件事交了出去\. 你并不指挥 LLM 的行动 \- 你提出请求，然后它自行行动，无需你的能量投入，也无需你持续引导\. 这种请求/自动化的循环不是操持，不是控制，不是连续的，也没有反馈\. 使用自动化时，你所做的不是学习现实世界的真相，而是试图猜透某个自动机器当下的运作细节\. 并且努力钻它们的空子 \- 例如，点一个定制汉堡\(不要洋葱\)，以便拿到一个现做的汉堡\. 或者在 voodoo\.md 里填入恰到好处的咒语\. 只需一次软件更新，你“学到”的一切就可能被最新算法变得过时\. \(结果拿到的是一个被挑掉洋葱、湿软冰凉的汉堡\)你放弃了与世界打交道，转而为一个反复无常的机器人效劳\. 随意把“工具”等同于有用的东西，是一种错误，比如说 \- “LLM 没有替我写论文，我只是把它当作工具，用来阅读和总结一些研究论文”\. 但你并没有操持它来阅读那些论文\(就像你可能使用 Kindle 那样\)\. 读论文的是它，不是你\. 把阅读这件事交出去，你会错过什么？几乎一切\. 首先，也是最重要的，你错过了向会写作的人学习如何写作\. 你错过了学习如何构建论证\. 你错过了留意细节\. 你错过了为潜意识储备产生新想法的素材\. 你错过了对某些作者建立信任、对另一些作者产生怀疑\. 你错过了所有的笑话\. 你错过了所有的锋芒\. 你错过了学习如何思考\. 工具不会“目标失准”，不会“失控作乱”，不会“逃脱管束”，也不会“密谋”等等\. LLM 不是工具\. 我知道很多人使用“只是工具”这个说法，只是想表达“它们的作用取决于你如何使用它们”\. 可这并不是真的\. 自动化有其固有属性，也有与工具不同的地方；忽视这些，你就得自担风险\. Rich