Cool Worlds：AI毒害了一切 [18:31]

**简而言之：人工智能生成的内容正在侵蚀人们对一切人类知识与创造力的信任，可能导致事实的“恶性通胀”，使真相与噪音变得难以分辨。** ## 知识的历史及其加速演进 人类的集体知识代代累积，始于模仿。语言的发展加速了这一过程，使讨论与辩论成为可能，但信息仍是一个有损系统，每次转述都会造成衰减。文字的发明在很大程度上解决了这一问题，使知识得以保存数百年，达·芬奇详尽的笔记便是例证。印刷术进一步加速了这一趋势，带来了知识的复利增长，从而实现了登月、人类基因组计划等现代成就。 ## 不洁的三位一体：资本主义、社交媒体与生成式人工智能 这一创新进程也催生了资本主义、社交媒体和生成式人工智能。虽然它们各自或许初衷良好，但如今三者的融合却威胁着人类创新的未来。事实与虚构的界限正在消解。就在三年前，顶尖的生成式人工智能还能产出像威尔·史密斯吃意大利面那样粗糙的视频；而今，它已能创作出天衣无缝、逼真如照片的内容，需要仔细辨别才能识破。当演员工会为权益抗争时，YouTube 仍不堪其扰，AI 生成的频道激增，从脚本到缩略图均由 AI 完成。还有一种更隐蔽的混合内容模式存在：人类叙述者朗读 AI 撰写的脚本，研究与缩略图也由 AI 增强处理。 ## 艺术与科学的信任危机 这引发了一种普遍性的怀疑。如今，每一件新的艺术作品都会引发疑问：它是人类创作的、AI 辅助的，还是完全由 AI 生成的？这一点很重要，因为艺术是与背后那个人类的情感联结。这种怀疑也蔓延至科学领域，学术期刊充斥着 AI 生成的论文。同行评审——这最后的防线——其本身也正变得由 AI 主导。有传闻称，审稿人使用 ChatGPT 来评估那些本身也是 AI 生成的论文，造成了“盲人领盲人”的局面。作者现在或许会声明其作品为人类创作，但此类声明易于伪造，进一步加剧了怀疑，就像 YouTube 创作者恳求观众相信他们的内容不是 AI 生成的一样。 ## 现实的恶性通胀 其后果是，来之不易的人类成就——从相对论到《蒙娜丽莎》——其价值都受到了质疑。一个不信任其信息和产品的社会，将面临严峻的后果。这类似于货币的恶性通胀：当公众信任崩塌时，货币就变成了废纸。类似的基础概念崩塌可能正在事实与虚构的领域发生。我们的知识面临像盐溶于水般消失于一片混沌的泥泞之中的风险。 演讲者用两幅 1881 年的查尔斯·达尔文肖像（一幅是真迹，一幅是 AI 生成的）来说明这一点。你能分辨出来吗？虽然档案和时间戳看似可以作为验证工具，但即便是这些也可能被恶意的 AI 代理所破坏，它们能够重写搜索历史或历史记录。一个提示词就能创建一幅令人信服的伪造达尔文肖像，从而侵蚀基础的历史真相。 ## 侵蚀的机制 这种侵蚀是由旨在吸引我们的系统所助长的。旨在优化注意力和操纵叙事的社交媒体算法，与恶意的 AI 以及追求利润最大化的资本主义动机相结合，为重写历史和散布永恒怀疑提供了完美的工具。YouTube 上的“唱反调”策略就是例证——推广诸如“物理学是错误的”或“登月是骗局”等观点，以吸引点击量并迎合算法。 其结果是，知识、艺术和科学都变得可疑，真相与噪音的界限变得模糊。推理、观察和演绎这些基础技能——由达·芬奇那样的头脑所磨练的技能——正在萎缩，“被 AI 截肢”。MIT 的一个轶事凸显了这一点：一个学生团队仅用一个 AI 提示就生成了一份完美的项目报告，绕过了所有真正的学习和努力。在这个被视作仅为高薪工作盖章认证的体系中，个人以牺牲集体知识和利他主义为代价，最大化个人利益。 ## 在真实的荒漠中导航 我们正在滑向让·鲍德里亚的“真实的荒漠”，一个丧失了本真性的模拟世界。危险不一定在于戏剧性的“天网”接管，而在于一场安静的“无知爆炸”或“信号淹没于噪音之中”。知识沉入垃圾之海。AI 本身可能无法拯救我们；未来基于这些被污染数据训练的 AI 模型，加上继承而来的优化驱动力，可能会延续这一循环。虽然 AI 可以对代码进行事实核查，但它难以轻易验证物理世界的真理，使其仍是这场游戏的一部分。 ## 最终警告与行动呼吁 最终的威胁并非智能奇点，而是倒退——如同温水煮青蛙般缓慢的煎熬，一种“向均值回归”。这是发出警告的时刻，是“黑暗中的一枪”。选择权依然在我们手中：我们可以暂停，尽管这会很困难，可能需要前所未有的协作。捍卫真相值得付出努力。正如文字记录结尾所言，现在回头远离这个深渊，还为时不晚。 来源：Cool Worlds：AI 毒害了一切 (https://www.youtube.com/watch?v=HBpFIYRjuuM)