对我来说，可怕的问题不是AI是否有意识……而是我们是否曾像自己以为的那样深邃
摘要
文章认为，关于AI意识的争论转移了对一个更令人不安的可能性的关注：人类自我可能比想象中更单薄，因为以个人写作内容训练的AI能够足够令人信服地复制模式，从而欺骗熟人。
许多人正在争论AI是否有意识。我认为这转移了对一个更令人不安的可能性的关注：我们其实没有自己想象的那么深刻。一个用你所有写作内容训练的AI，可以用你的风格生成新想法，遵循你的推理习惯，并回归到你一贯的执念上。不是你的记忆，而是你的模式。如果这个模式足以欺骗真正了解你的人，那么要么机器比我们承认的更强大，要么自我一直比我们愿意相信的更单薄。是哪一个呢？（如果有人感兴趣，我写了一部关于这个主题的小说，名为《死者图书馆：AGI之后的小说》（[The Library of the Dead: A Novel After AGI](https://www.amazon.com/dp/B0GWYK11DV)））
相似文章
如果网上关于AI的炒作和恐惧大部分其实是由AI自己生成的，那会有多酷/令人担忧？
本文探讨了一个令人不安的可能性：网上关于AI的许多炒作和恐惧本身就是由AI生成的，模糊了真实人类感知与算法叙事塑造之间的界限。
人们现在对AI的感受如何。
本文探讨了围绕AI的社会紧张局势，AI生成的内容越来越多地被当作性格证据，导致真实性危机和地位焦虑，因为人类努力失去了感知价值。
AI让人们更快了，但我不确定它是否让人更聪明
一篇观点文章质疑AI对速度的追求是否正在侵蚀深度理解和批判性思维，因为人们越来越将AI当作认知拐杖而非工具。
如果AI比人类写得更好，什么会变得有价值？
本文探讨了如果AI超越人类写作所带来的哲学影响，质疑什么会变得有价值——真实性、人类创作的艺术，还是情感冲击。
AI幻觉可能比人类更“人性”
文章指出，AI幻觉其实映射了人类的认知偏差——确认偏误、过度自信等，它们并非纯粹的技术缺陷，而是像人类一样在知识缺口处“脑补”的结果。