@danshipper: 我于2023年写了"against explanations",关于AI如何可能改变科学……非常激动地看到如此快速进展的前景

X AI KOLs Following 新闻

摘要

Dan Shipper认为,像GPT-4这样的人工智能模型可以在心理学等缺乏科学解释的领域取代人类直觉,主张即使没有完全理解,也要利用AI推动进步。

我于2023年写了"against explanations",关于人工智能如何可能改变科学……非常激动地看到如此多进展如此快速的前景 https://every.to/chain-of-thought/against-explanations…
查看原文
查看缓存全文

缓存时间: 2026/06/18 16:09

我在2023年写了《反对解释》一文,探讨AI可能如何改变科学……看到如此快速取得如此多进步的前景,我感到无比兴奋。链接:https://every.to/chain-of-thought/against-explanations…


反对解释

来源:https://every.to/chain-of-thought/against-explanations
本文由 Reflect(http://reflect.app/?utm_source=every.to&utm_medium=newsletter&utm_campaign=march23)赞助提供。Reflect 是一款无摩擦笔记应用,内置AI助手,可用于生成摘要、列出关键要点或行动项,或随意提问任何内容。

我认为我们应该放弃解释。或者说,至少应该在那些难以获得合理解释的科学领域(比如心理学)放弃解释。

我们之所以看重解释,是因为历史上我们认为,除非知道某件事发生的“原因”,否则无法可靠地预测或改变它。的确,几千年来,人类直觉在没有明确“原因”的情况下,也能预测心理学中的一些现象。但直觉不可审视、不可调试、也不可转移。只有解释——科学的领域——才具备这些特性。

但现在情况不同了。AI 的工作方式类似于人类直觉,但它具备更多解释的特性。也就是说,它更可审视、更可调试、也更可转移。

像 GPT-4 这样的 AI 模型能够编码直觉,并在科学尚未取得进展的地方取得突破。我们应该利用它来造福人类。

解释可以留到以后再找。

回顾心理学史,各种学派兴衰更替,都试图解释焦虑和抑郁等心理问题的根本原因。

弗洛伊德学派(及其后继者)认为,问题在于潜意识与意识之间的冲突。他们也非常强调过去的经历如何塑造我们对当下的体验。认知行为主义者认为,焦虑情绪源于扭曲的思维,改变扭曲的思维就能化解焦虑情绪。ACT(接纳与承诺疗法)的拥护者认为,焦虑是一种反馈循环,被注意力所强化,如果我们少关注焦虑、多关注行为,焦虑本身就会减弱。而躯体体验疗法的拥护者则认为,焦虑是困在身体里的创伤反应,需要通过释放来处理。
以上仅列举部分。(https://slatestarcodex.com/2019/11/20/book-review-all-therapy-books/)

这些理论可能都有一定道理。但当我们审视相关研究时,会发现没有明确共识表明哪种方法比另一种更有效。(有一些例外,比如针对强迫症的暴露疗法似乎确实效果更好,但这属于例外而非普遍情况。)相反,治疗联盟——即治疗师与来访者之间基于直觉建立的关系——才是多数心理治疗效果的中介因素(https://pubmed.ncbi.nlm.nih.gov/33069096/),与具体方法论无关。

精神医学领域的情况也好不到哪里去。我们开抗抑郁药已经40年了,但仍然无法解释它们为什么有效。我们甚至不确定它们是否确实有效(https://lorienpsych.com/2020/10/25/ssris/),尽管有大量经济和研究激励去弄清楚这一点。它们可能对某些人有效,而且不同药物在不同时间对不同病情的人来说效果好坏不一。但我们无法提前预测,也没有真正统一的理论来解释原因。

这些只是心理学和精神医学中未解之谜的一小部分!在我们通常称为“软科学”的其他领域,类似情况比比皆是。在这些领域中,尽管科学做出了最大努力去解释,人类直觉仍然占据主导地位。

这并非科学当初承诺给我们的样子。科学曾承诺给出优雅、统一的理论,解释焦虑是如何产生的,或者抗抑郁药为什么(或不)有效。这是我们从牛顿那里继承的浪漫理想:他看到苹果从树上落下(https://every.to/superorganizers/the-lucky-ones-358044?sid=17587),从而找到一个简单的公式来解释月球的运动。

但如果适用于物理学的思路对于心理学来说是错误的呢?如果我们承认世界极其复杂,而这些领域涉及本质上无限变量之间复杂且往往非线性的相互作用呢?如果我们承认这使得为任何特定观察发展出清晰、简约、可重复的解释变得困难呢?

历史上,我们抛弃了人类直觉,迷恋上了解释,因为解释让进步成为可能。解释帮助我们做出具有以下特性的预测:

  1. 可审视性:我们能够理解预测的成因、预测为何可能出错,以及需要改变什么来纠正它。
  2. 可调试性:因为我们知道预测的成因,如果预测结果错误,我们就能判断解释是错的——并学会修正它们。
  3. 可转移性:因为是显式的,所以可以写下来并简洁地传达。这使得它们得以传播并在此基础上进一步发展。

相似文章

@AriX: 喜欢这篇文章。

X AI KOLs Timeline

Dan Shipper 报告称,尽管用 AI 智能体自动化了一切可能的事情,但他的公司自 GPT-3 以来已从 4 名员工增长到 30 名人类员工,他认为 AI 让专家技能变得廉价,从而推动了对人类工作的需求。