@rohanpaul_ai：哥伦比亚大学计算机系 Vishal Misra 教授解释为何 LLM 无法提出全新科学构想

X AI KOLs Following 新闻
llm-limitations scientific-discovery bayesian-manifold

摘要

哥伦比亚大学计算机系教授 Vishal Misra 认为，LLM 只能在已习得的贝叶斯流形内插值，无法构建全新概念图谱，因此无法产生真正原创的科学突破。

哥伦比亚大学计算机系 Vishal Misra 教授指出，LLM 之所以无法提出全新科学构想，是因为它们只学到一张结构化的“地图”——已知数据的贝叶斯流形，并在此范围内表现良好，一旦超出便失效。真正的科学发现需要绘制新地图，而这正是 LLM 无法做到的。
查看原文
查看缓存全文

缓存时间: 2026/04/21 17:13

哥伦比亚大学计算机科学教授 Vishal Misra 解释，为什么 LLM 无法提出新的科学创意：LLM 学习的是一张“结构化地图”——已知数据的贝叶斯流形，并在此范围内表现良好，一旦超出就失灵。真正的发现需要绘制新地图，而这正是 LLM 做不到的。

相似文章

LLMs 并非你所认为的黑箱

Hacker News Top

一篇总结 Anthropic 2025 年关于机制可解释性论文的文章，表明 LLM 并非黑箱，电路追踪可以揭示多步推理和人类可识别的概念。

@rohanpaul_ai: 耶鲁大学和芝加哥大学的这篇论文表明，LLM生成的研究思路与人类之间的真正差距不在于思路质量，而在于思路范围：LLM的思维比人类研究者更窄。

X AI KOLs Timeline

这篇来自耶鲁大学和芝加哥大学的论文发现，LLM生成的研究思路与人类研究思路的主要区别不在于质量，而在于范围：LLM产生的思路更窄，其中47%-64%的思路侧重于连接不同的工作，而人类的这一比例仅为12.1%。