LLMs能否意识到我们正从错误的角度看待问题？
摘要
本文探讨大语言模型是否能够独立识别并挑战科学中的基本假设，以实现范式转变式的突破，并类比了人类创新，如爱因斯坦的引力理论。
最近我一直在思考，LLMs是否有一天能够提出一种不同类型的科学突破；即它们审视现有的数学和科学，意识到所有人都从错误的角度看待问题，而无需人类明确提示。这似乎与它们的训练方式有些相悖，因为它们本质上是从现有人类知识中学习模式，而这种突破往往需要拒绝这些知识所基于的假设。人类在这方面有许多例子。爱因斯坦彻底改变了我们理解引力的方式。板块构造学说源于接受大陆本身可以移动。非欧几里得几何基本上源于质疑每个人都在使用的一个假设是否真的必要。这些都与在既定规则内出色地找到解决方案大不相同。人工智能似乎已经非常擅长后者。但我不太确定的是，它是否能够独立达到说出'也许每个人假设的东西实际上是错误的问题'的程度。显然，人类也不是凭空想出这些想法的。通常先有多年奇怪的结果和与现有理论不太吻合的事物。那么，人工智能是否有做过类似事情的例子？
相似文章
那么Ilya和Yann LeCun都错了吗？（LLMs正在泛化。）
这篇文章讨论了AI批评家Ilya Sutskever和Yann LeCun是否错误地认为LLMs无法达到人类智能，因为有新兴证据表明LLMs正在跨领域泛化。
立场：LLMs 无法跳跃
一篇立场论文，认为大语言模型存在根本性局限，用“无法跳跃”这一隐喻来突出推理或泛化方面的不足。
大型语言模型能否重塑基础算法？
# 论文页面 - 大型语言模型能否重塑基础算法？ 来源：[https://huggingface.co/papers/2604.05716](https://huggingface.co/papers/2604.05716) **在我们让 LLM“遗忘”之后，它们还能从零重塑 Dijkstra、Euclid 等基础算法吗？** 我们 loosely 将 Hassabis 的“爱因斯坦测试”搬到算法领域：先用“反学习”把目标算法从模型中抹去，再检验它能否独立重新发明。最新研究表明 LLM 具备这种潜力。
热门观点：LLM可以“跳跃”
一篇博客文章，主张LLM有可能通过演绎而非溯因的途径实现类似广义相对论的科学突破，反驳Tom Zahavy的“LLM无法跳跃”立场论文。
理解大型语言模型
本章回顾了当前对大型语言模型的理解，讨论了它们的Transformer架构、类似人类认知的涌现能力，以及关于LLM是真正理解还是仅仅模拟理解的争论。