@berryxia: 讲真，这种言论只有真正牛的人才敢说啊！ 本科生就可以来完成LLM的数学训练！ Terence Tao 最近在访谈里把 LLM 最核心的谜题直接说透了。 这位 Fields Medal 得主、数学界最高荣誉，被称作数学界诺贝尔奖，当代最顶尖…

X AI KOLs Timeline 新闻
llm terence-tao mathematics ai-mystery natural-language-processing interview

摘要

Terence Tao 指出当前 LLM 背后的数学其实很简单，但真正的谜题在于自然语言数据的中间地带导致模型行为不可预测。

讲真，这种言论只有真正牛的人才敢说啊！ 本科生就可以来完成LLM的数学训练！ Terence Tao 最近在访谈里把 LLM 最核心的谜题直接说透了。 这位 Fields Medal 得主、数学界最高荣誉，被称作数学界诺贝尔奖，当代最顶尖的数学家之一，说： 今天大模型背后的数学其实非常简单。 线性代数、矩阵乘法，再加一点微积分，本科生就能完全掌握。 我们清楚知道怎么训练、怎么运行它们。 但真正让人困惑的是：为什么它们在某些任务上表现惊人，在另一些任务上却突然翻车，而且我们完全无法提前预测。 核心原因在于现实世界的数据，自然语言文本。 它既不是纯噪声，也不是完全结构化的数据，而是坐在“中间地带”：部分有序、部分随机。目前数学界对这个中间区域的理论还非常薄弱。 所以我们能造出强大的模型，却没法可靠预测它的能力边界。 这个“简单机制 vs 不可预测行为”的矛盾，才是当前 AI 最核心的 puzzle。 完整访谈视频在这里（Dr Brian Keating 频道）：
查看原文
查看缓存全文

缓存时间: 2026/05/17 05:29

讲真，这种言论只有真正牛的人才敢说啊！ 本科生就可以来完成LLM的数学训练！

Terence Tao 最近在访谈里把 LLM 最核心的谜题直接说透了。

这位 Fields Medal 得主、数学界最高荣誉，被称作数学界诺贝尔奖，当代最顶尖的数学家之一，说：

今天大模型背后的数学其实非常简单。

线性代数、矩阵乘法，再加一点微积分，本科生就能完全掌握。

我们清楚知道怎么训练、怎么运行它们。

但真正让人困惑的是：为什么它们在某些任务上表现惊人，在另一些任务上却突然翻车，而且我们完全无法提前预测。

核心原因在于现实世界的数据，自然语言文本。

它既不是纯噪声，也不是完全结构化的数据，而是坐在“中间地带”：部分有序、部分随机。目前数学界对这个中间区域的理论还非常薄弱。

所以我们能造出强大的模型，却没法可靠预测它的能力边界。

这个“简单机制 vs 不可预测行为”的矛盾，才是当前 AI 最核心的 puzzle。

完整访谈视频在这里（Dr Brian Keating 频道）：

Rohan Paul (@rohanpaul_ai): Terence Tao says the math behind today’s LLMs is actually simple. Training and running them mostly uses linear algebra, matrix multiplication, and a bit of calculus, material an undergraduate can handle. We understand how to build and operate these models.

The real mystery is

To be honest, only truly badass people dare to say stuff like this!
Undergrads can handle the math training for LLMs!

Terence Tao recently laid bare the core puzzle of LLMs in an interview.

This Fields Medal winner—the highest honor in mathematics, often called the Nobel Prize of math—one of the top mathematicians of our time, said:

The math behind today’s large models is actually incredibly simple.

Linear algebra, matrix multiplication, plus a bit of calculus—undergrads can master it completely.

We know exactly how to train them and how to run them.

But what truly baffles people is: why do they perform astonishingly on some tasks but suddenly crash and burn on others, and we can’t predict it in advance at all.

The core reason lies in real-world data, natural language text.

It’s neither pure noise nor fully structured data, but sits in the “middle ground”: partly ordered, partly random. Right now, the math world’s theory for this intermediate zone is still very weak.

So we can build powerful models, but we can’t reliably predict their capability boundaries.

This contradiction of “simple mechanisms vs. unpredictable behavior” is the core puzzle of AI today.

Full interview video here (Dr. Brian Keating’s channel) :

完整视频：

相似文章

@FinanceYF5: Google新论文：让LLM解数学竞赛题，正确率从10%跳到70%。 【LEAP框架】不让模型一次写完整证明，而是把问题拆成目标树，边做边从Lean验证器的反馈里学，复用已证过的引理。 结果：Putnam 2025全部12题解出，IMO风…

X AI KOLs Timeline

Google新论文提出LEAP框架，将数学问题拆解为目标树，利用Lean验证器反馈进行学习，使LLM在数学竞赛题上的正确率从10%提升至70%，解决了Putnam 2025全部12题，并在IMO基准上超越专用金牌级系统。