为什么我认为 AI 不会取代我们的审美:我们会对司空见惯的东西感到厌倦,而模型生成的恰恰是司空见惯的东西

Reddit r/artificial 新闻

摘要

作者认为,AI 不会抹去人类的品味:大脑会奖励惊喜,而模型则倾向于统计上常见的内容,因此受众总会在模型追赶上来之前转向新的偏好。文章梳理了支持这一观点的研究(Artificial Hivemind、RLHF 导致多样性降低的研究、Billboard 榜单歌曲典型性研究),也坦诚呈现了反面证据,例如大语言模型生成的研究创意,以及更受青睐的 AI 创作诗歌。

我不认为我们能把品味训练进 AI 智能体,然后自己就无事可做了。上周我在布拉格做了一场关于品味的演讲,结束后有人恰好问了我这个问题(如果品味就是模式匹配,而且可以训练,那为什么不行呢?)。于是我查阅了相关研究,检验自己的想法。我们的大脑会为意外之喜发放奖赏。新奇的图片会激活人类中脑中产生多巴胺的区域(Bunzeck 和 Düzel,《Neuron》,2006)。在猴子身上,多巴胺神经元会对新事件放电,而当事件重复出现时,就不再作出反应(Ljungberg、Apicella 和 Schultz,1992)。Andrew Huberman 对此的说法是:“当你反复做自己喜欢的事情时,你获得愉悦的门槛就会越来越高,越来越高。”模型则会趋向常见模式。《Artificial Hivemind》论文(NeurIPS 2025 最佳论文之一)让 25 个模型各自生成 50 次关于时间的隐喻,结果得到了两类:时间是一条河,时间是一位织工。RLHF,也就是让聊天机器人变得有用的调优方法,会降低输出的多样性(Kirk 等,ICLR 2024),部分原因是人类评分者偏爱熟悉的文本(Zhang 等,ICML 2026)。受众会青睐那些既新颖、又仍能理解的东西。在约 27,000 首 Billboard Hot 100 榜单歌曲中,高度符合常见模式的歌曲更不容易取得成功(Askin 和 Mauskapf,《American Sociological Review》,2017)。也有与我的看法相悖的证据。大语言模型提出的研究想法被评为比专家的想法更新颖(Si、Yang 和 Hashimoto,ICLR 2025),不过 4,000 个想法中只有 200 个是独特的,而且当人们真正付诸实践时,人类的想法表现更好。在一项盲测中,非专业人士更喜欢 AI 创作的诗歌(Porter 和 Machery,2024)。FunSearch 借助模型发现了新的数学成果,同时由模型之外的评估器为每次尝试打分。所以,我的论点关乎时机。某种东西必须先在模型的训练数据中变得常见,模型才有可能生成它,而到了那时,渴求新鲜事物的人已经转向别处了。你觉得这个论证哪里站不住脚?
查看原文

相似文章