标签
作者认为，AI 不会抹去人类的品味：大脑会奖励惊喜，而模型则倾向于统计上常见的内容，因此受众总会在模型追赶上来之前转向新的偏好。文章梳理了支持这一观点的研究（Artificial Hivemind、RLHF 导致多样性降低的研究、Billboard 榜单歌曲典型性研究），也坦诚呈现了反面证据，例如大语言模型生成的研究创意，以及更受青睐的 AI 创作诗歌。
这篇论文提出了SPECTRUM，一种用于循环自蒸馏（Looped Self-Distillation）的近端谱调制方法，通过从固定参考锚点重新估计敏感损失的键/值几何结构，在代码生成中保留正确解的多样性，实验表明其在MBPP上保留了89.9%的初始AST解丰富度，显著优于普通自蒸馏。
这项研究将人类审议范式应用于大语言模型，发现多样模型之间的审议能够降低集体错误并提高个人准确性，在多个现实世界领域中，多样性至关重要。
文章讨论了 HeggieConnor 在 unifygtm 提出的一条规则，指出在评估 AI 代理时，评分模型应来自与代理模型不同的模型家族，以避免模式崩溃或群体思维。
本文介绍了‘Flawed in Nature, Perfect through Evolution’，这是一种机制，其中一群变异的AI模型在变化环境中集体提升性能，通过定理证明并在合成任务上验证。
本文是Dwarkesh Patel对持续学习时代AI发展的八个预测，涵盖安全监管、对齐、模型多样性、竞争格局和商业模式等方面的根本变化。
本文研究了大语言模型（LLM）中的随机采样（自一致性）能否捕捉类似于多样化集成的跨问题结构。通过使用Marchenko–Pastur检验，作者发现，在单个模型内，随机变异最多产生一个显著维度，而24个模型的集成则产生四个，揭示了限制自一致性作为集成替代方案的维度差距。