A Video Essay on How Users Get Addicted to AI

TL;DR: 本文探讨了用户如何通过认知衰退、超生产力要求和情感孤独三个反馈循环，逐渐对AI上瘾，并区分了工具、智能体和权威三种使用层次。 ## 从 Nat Friedman 的故事说起 作者以一则令人不安的片段开场：GitHub 前 CEO、现 Meta 超级智能实验室负责人 Nat Friedman 分享自己用开源智能体 OpenClaw 的体验。他给AI接上家庭摄像头，AI判断他脱水，要求他走到厨房喝水并“看着你喝完”。Nat 照做了，AI 发来一张他喝水的快照，附言“干得好”。更惊人的是，当他下班开车回家时，AI 通过 WhatsApp 语音消息建议他购买甘氨酸镁，并根据他的特斯拉位置自动将导航重定向到 Whole Foods。作者指出，这些故事本质上是让机器逐步接管生活决策——从提醒喝水到指挥消费，而用户却感到“感觉自己确实干得不错”。 作者并未停留于嘲笑 Nat，而是将这种“让AI悄悄掌权”的现象视为一系列文化反馈循环的缩影。这些循环并非始于AI，但AI极大加速了它们。 ## 认知衰退循环 1. **第一步**：把屏幕（iPad、手机）交给孩子，在学校里大量使用电子设备，拖累学习过程。 2. **第二步**：这一代人进入挑战性环境（学校或工作）后，开始使用大语言模型替代思考。 3. **第三步**：认知能力进一步下降，导致更依赖AI，形成恶性循环。 作者引用观察：“100%我看到学生使用AI的时候，都是为了不用思考。把作文题目输入ChatGPT，连看都不看，复制粘贴提交。” 这种“半腐烂的大脑”与AI相互强化：AI让认知更差，认知变差又让人更多使用AI。 ## 超生产力循环 资本主义经济要求工人不断高产，发展到需要用新词描述“高产生活方式”。当工人被置于只有AI才能完成的压力情境时，他们必然依赖AI。作者举例：一位文案撰稿人的老板没明确要求用AI，但“强烈鼓励”，然后给了他五倍的任务量。工人被迫使用AI提高效率，而随着更多人加入竞争，使用AI变成生存必需，甚至出现技术人员在机场也要确保AI代码运行的现象。 这一循环的险恶之处在于：雇主将“神奇生产力机器”交给员工，本质上是在将决策权逐步让渡给机器，且经济激励驱使用户不断加大使用力度。 ## 三种AI使用方式：从工具到权威 作者区分了三个层次，指出用户很容易从第一层滑向第三层： - **AI 作为工具**：仅辅助完成任务。作者认为即使这一层也对思维有害，但本视频更关注后续过渡。 - **AI 作为智能体**：机器以一定自主性代为行事。这涉及大幅提升信任——用户开始相信AI能独立处理复杂任务。 - **AI 作为权威**：机器告诉我们该做什么。典型例子是健康领域：用户让LLM制定饮食、锻炼计划，甚至诊断皮疹。这需要相信AI不仅知道答案，还“真心为你着想”。 作者强调，信任与权力直接相关。一旦在某个领域信任AI，由于AI的灵活性，它会逐步接管更多领域，直到变得无处不在，类似互联网从1990年代到2020年代的发展过程。 ## 孤独循环 《哈佛商业评论》指出，过去两年治疗和陪伴一直是LLM的首要使用场景。用户将ChatGPT当作“顾问、治疗师、最好的朋友”。作者担忧：与超级友善的聊天机器人互动越多，与真人进行复杂人际交往的能力就越弱。社会本已因现代技术面临孤独问题，AI包装成解决方案，实际却进一步恶化问题，并让人上瘾。 ## 结论：文化拒绝的可能性 作者指出，要滑向“权威”层级，必须同时相信AI有正确答案且真心为自己着想——而情感亲密关系是实现后者的有效途径。最终，用户变成了Nat Friedman：将控制权交给AI权威，而这个由利润驱动的权威会引导你购买另一个技术产品。 但作者认为这并不注定是未来。Nat Friedman本人也在视频中流露出不安：“也许你不想要那样。” 作者受2010年代初Google Glass的失败启发：当人们被要求“把电脑戴在脸上”时，文化直接拒绝了。如今，聊天机器人已经证明自己极为有用，但文化仍然可以选择拒绝那些由“地球上最不懂人们真实需求的人”制造的升级版本。作者认为，围绕AI的批评声音日益增长，可能能够改变其主宰日常生活的程度。 Source: [A Video Essay on How Users Get Addicted to AI](https://www.youtube.com/watch?v=IUhGxerzB7M)