你的AI不是工具

# 你的AI不是工具 来源：https://theconvivialsociety.substack.com/p/your-ai-is-not-a-tool *欢迎来到*Convivial Society*，这是一份关于技术、文化和道德生活的通讯。在这一期略带激烈的文章中，我对“AI只是工具，只要我们明智地使用它，一切都会好起来”的说法发泄了一些挫败感。一如既往，你从我的观察中发现的价值因人而异，但至少你会遇到各种出色的声音，与你对话，帮助你思考我们所处的技术环境。* *干杯，Michael* 你的AI不是工具。它是一个环境，而你身处其中。 整套电子和数字媒体技术同样可以这么说。我并不是特别严谨地定义我们用来谈论各种技术的特定词汇——工具、设备、机器、机制、系统、人造物、器具等——除了偶尔指出，“技术”这个词本身，按照我们今天使用的包罗万象的意义来说，直到20世纪中期左右才享有其广泛语义范围，并且正是由于这种广泛的语义范围，它可能成为清晰思考其所声称的现象的障碍。1 (https://theconvivialsociety.substack.com/p/your-ai-is-not-a-tool#footnote-1) 但我越来越倾向于对“工具”一词的普遍使用变得令人讨厌地尖刻，尤其是当它与“只是”搭配使用时，就像“技术只是工具。重要的是我们如何使用它。” 尽管在过去15年左右的时间里，关于技术所谓中立性的流行假设似乎发生了转变，人们至少开始怀疑我们的设备等实际上并非仅仅是受我们指挥的中立工具，反而会挫败、抵抗或以其他方式逃避使用者的简单掌控，以至于使用者在某种意义上也被他们的设备所使用，但技术中立的神话仍然根深蒂固。 我坦承，我对有些人如此轻率地坚称一切都只是学会好好使用AI这么简单感到惊愕，仿佛我们没有刚刚经历一场持续近20年、全社会范围的实验，这个实验表明，一个所谓的“工具”，比如智能手机或社交媒体平台，会（畸）形塑即使是最警惕和最有德行的用户，使其符合自身的形象和模式。这是现代技术狂妄自大核心的盲目性。它是一种坚定但错误的信念，认为我们的“工具”完全存在于我们之外，因此，只要具备必要的技能，就可以“安全地”部署。 但在这个意义上，AI不是工具。它是一个包裹用户的环境，从内到外作用于我们，而我们天真地认为，只要我们小心谨慎、有意图地使用，我们就不会因为使用它而改变。小心和意图是次要的，从长远来看，我们对这种警惕性的自信很可能对我们不利。 这虽然是轶事式的，但以下是一位读者在我在Notes上发布初步观察时说的： "在一家非常大的公司（60万人）内部，我可以看到这一切在快进。那些最小心使用AI的团队正在失去区分好选项和仅仅安全选项的能力。这种畸形不会放过勤奋的人。它招募了他们。"就在本周的午餐上，一位非常资深的计算机科学家表达了类似的观点。他能感觉到自己意识和判断上的微妙变化，并且他能清楚地看到实施AI对初级同事产生的有害影响。 关于同一点——即使是小心、有自我意识的AI使用也可能产生意想不到的有害后果——请考虑Charley Johnson对Steven Johnson关于使用AI进行认知上传而非认知卸载的劝诫，以及我们应像使用“身边的研究员、导师和编辑”一样使用AI的建议，所做出的耐心而平和的批评。结合最近的两项研究（这里 (https://www.science.org/doi/10.1126/sciadv.adw5578)和这里 (https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6097646)），Charley 展示了这种观点的局限性，并指出“是媒介在做功，而不是信息——这就是为什么你可以拒绝所有建议，但仍然会到达一个你自己独自无法到达的地方，并且全程感觉就像是你自己走过去的。”2 (https://theconvivialsociety.substack.com/p/your-ai-is-not-a-tool#footnote-2) 关于我们对认知投降 (https://www.thealgorithmicbridge.com/p/a-new-wharton-study-on-ai-warns-of) 的抵抗程度可能因人而异，但我们不应乐观地认为我们能抵抗得了。3 (https://theconvivialsociety.substack.com/p/your-ai-is-not-a-tool#footnote-3) 这是因为AI是一个环境，而不是一个工具。我可以拿起一个工具再放下它，但环境会将我吸收到自身之中。 在这一点上，麦克卢汉一如既往地有用： > “我们对所有媒体的常规反应，即重要的是它们如何被使用，是技术白痴的麻木姿态。因为媒介的‘内容’就像小偷用来分散思维看门狗注意力的那块多汁的肉。” 在其他地方，麦克卢汉这样说：“任何特定媒介的内容或信息的重要性，大约等同于原子弹外壳上的模板印刷。” 再次强调：“技术的影响不是在意见或概念层面发生的，而是稳定且毫无抵抗地改变感官比率或感知模式。” 这在一定程度上是我一直在琢磨一个想法的原因，即把AI视为对人类心灵的一次拒绝服务攻击。4 (https://theconvivialsociety.substack.com/p/your-ai-is-not-a-tool#footnote-4) 尽管这个特定的观察与我们如何使用AI关系不大，更多的是关于它如何被用于我们身上。 我意识到这种相当好斗的修辞风格可能会让人有点反感，但我认为需要尽可能有力或生动地提出这一点，以便这个关键真理不仅存在于我们的头脑中，而且扎根于我们的心灵和直觉中。而且，确实，这可能是一个难以完全掌握的观点，我也不会假装自己已经做到了。 Andrew McLuhan，Marshall的孙子，他通过保持McLuhan遗产的活力而为所有人提供了巨大服务，最近发布 (https://x.com/amicusadastra/status/2067601824220115026) 了一封McLuhan写给《加拿大金融邮报》出版商的信。这封信包含了McLuhan项目最清晰的陈述之一。 [](https://substackcdn.com/image/fetch/$s_!qnU5!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Ff381f6be-159a-430d-9efd-e1d4625abc32_1130x1464.heic) 这封1972年的便条中相关部分是McLuhan承认自己设定任务之艰巨： > “说服人们我不是在处理思想而是在处理感知，不是概念而是观察，这并不容易。传播思想很容易，但训练新的感知很困难。当被邀请改变习惯性的观看、观察、聆听和感受方式时，人们会恐慌。他们怀疑正在努力改变他们的身份，这是完全正确的。老师满足于不亚于此。” 这不仅是麦克卢汉视角的一个极好总结，也是任何对我们所有人都面临的教育任务感兴趣的人最清晰的使命陈述之一，但稍后会详细说明。5 (https://theconvivialsociety.substack.com/p/your-ai-is-not-a-tool#footnote-5) 而且，你看，如果我们不能总是完全认识到我们被技术所塑造，独立于我们对它们的特定用途，那么我们可以从认识到即使是Leo教皇，在他原本令人钦佩的关于AI的通谕中，似乎也以一种仍然未切中要害的方式阐述了AI的非中立性，从而得到一些安慰。 正如我的朋友Antón Barba-Kay (https://hedgehogreview.com/web-features/thr/posts/should-the-lion-lie-down-with-the-electric-lamb) 以其特有的风采在我读到的最好的关于《崇高的智性》的文章中所说， > “...Leo写道，技术不是中立的，‘因为它承载了设计、资助、规范和使用它的人的特征。’ 然而，这恰恰就是人们在说技术是中立的时候*的意思*，即，它们可以被用于善或恶，取决于我们如何决定。这些对技术中立性的描述本身就源自技术官僚的术语和前提，其结果是AI是‘一种需要警惕的宝贵工具。’ 这对我们一些人来说，与声明可卡因可以是一种宝贵的药物，应该加一点点盐来吸食，是可以互换的。” “这不仅仅是一记冷枪，”Barba-Kay继续说道。“关键在于，‘工具’的语言暗示了一套界限分明且有目标的使用方式，而数字技术和AI尤其像语言一样多样化。像药物一样，它们改变了我们选择和思考的根本条件。” 正是如此。你应该读读全文。 我将提出以下命题供你思考，以此收尾：对新兴技术，尤其是AI，最好的回应不是认知主义模式下的媒介素养。相反，所需要的是在禁欲主义模式下训练我们的感知。 在Ivan Illich思想朝圣之旅的后半段，他得出结论认为他早期的工作是不充分的，因为他尚未领悟到在20世纪中期的某个时刻，我们已经从工具时代过渡到了系统时代。6 (https://theconvivialsociety.substack.com/p/your-ai-is-not-a-tool#footnote-6) 虽然据我所知，Illich从未详细阐述过这种区别，但区别似乎在于，我们可以，打个比方，站在工具之上，但我们无法站在系统之外。系统是一个环境，而不是一个单一的人造物。关键问题不仅仅是我们能够做什么或不能做什么，甚至不是可以对*我们*做什么。最紧迫的问题是我们的感知。 尽管仍然使用工具的语言，Illich在1988年解释道：“我想召集一定数量的人，思考工具对我们的感知做了什么，而不是我们能对工具做什么；看看工具如何塑造我们的心智，它们的使用如何塑造我们对现实的感知，而不是我们如何通过应用或使用它们来塑造现实。” 在他生命的尽头，即1990年代中期，Illich认为：“在一个已经变成系统的社会中生存，发现感官正是由于那些为延伸它们而设计的工具而变得无用。一个人被阻止触摸和拥抱现实。” 正是这种“感觉的彻底颠覆”，Illich补充道，“羞辱并随后取代了感知。”7 (https://theconvivialsociety.substack.com/p/your-ai-is-not-a-tool#footnote-7) Illich甚至声称：“我们让自己屈服于图像和声音消费的惊人退化，以便麻醉因失去现实而产生的痛苦。” 你可能不倾向于像Illich在近三十年前那样对我们处境持悲观看法，但我相信他的处方是正确的。正如麦克卢汉认为他作为教师应对技术环境的角色是训练新的感知一样，Illich认为所需要的是新的禁欲主义，尽管正如他在一项探索感知史的研究项目提案中所说，“20世纪末可以实践的禁欲主义与任何先前已知的禁欲主义有深刻的区别。” “在我看来，我们不能忽视在一个技术性幻象的社会中对感性实践的严格恢复，一种禁欲主义，”Illich认为。“这种对感官的重新主张，”Illich继续阐述，“这种服从经验的敏捷性[...]在我看来，是放弃那种为友谊设置最终障碍的技术的根本条件。” 我一直对Illich从严格训练我们的感知到友谊这一联系感到特别震惊。这种联系在我们的数字媒体环境不仅构成了认识论威胁，也构成了对我们社会结构的威胁这一事实中得到了证实。 那么，在我看来，我们最好着手延续Illich未竟的事业。至少，我们应该摒弃AI只是一个我们需要学习明智使用的工具这一想法。 分享 (https://theconvivialsociety.substack.com/p/your-ai-is-not-a-tool?utm_source=substack&utm_medium=email&utm_content=share&action=share) 给小费 (https://buymeacoffee.com/xus6lfbdsn) Convivial Society 采用赞助模式运营。没有付费墙，但如果你欣赏这些文字，鼓励你支持作者。