@BetaTomorrow: https://x.com/BetaTomorrow/status/2066435380623385000

X AI KOLs Timeline 新闻

摘要

该线程讨论了AI中的'Jagged Intelligence'概念,将其视为AI学习是一个不适定逆问题的结果,并认为像脚手架和验证这样的外部稳定器是必不可少的。

https://t.co/bIfFcPTtaa
查看原文
查看缓存全文

缓存时间: 2026/06/15 17:07

病态的,锯齿状智能

AI 模型获得的能力越强,其病态问题特征就可能越明显。这个原因可以追溯到法国数学家 Jacques Hadamard 在 1902 年提出的“适定问题”定义。一个适定问题必须满足三个条件:存在性、唯一性和稳定性。只要其中任何一个条件不满足,这个问题就会变成病态问题。

AI 学习从根本上是一个反问题。模型并不是从一个已知方程出发去计算结果;相反,它是从观测数据中反推出隐藏结构、关系和边界条件。反问题往往会破坏唯一性或稳定性,因此 AI 在数学基础上并不是天然适定的。当模型变得更强大时,它会进入更广泛的领域、更大的解空间、更长的上下文和更弱的边界条件。更强的能力扩大了可达范围,但并不会自动带来稳定性或唯一性。

这就是为什么“锯齿状智能”(Jagged Intelligence)不应仅仅被看作偶然缺陷,也不应简单理解为模型“坏”。它是一个病态反问题在智能系统中的可见行为。输入、上下文或边界条件发生微小变化时,输出就可能跳变。因此,脚手架、约束框架、多步推理和验证机制并不是表面的附加功能;它们本质上是为 AI 的病态核心提供外部稳定性的机制。

  • 学习是一个反问题,AI 是关于学习
  • 反问题:数学家的历史困境与神经网络的突破

单标几何系列

  • 单标的几何:拓扑
  • 单标几何:DeepSeek V4 与流形撕裂
  • 单标几何:数据复杂性
  • 单标几何:对流形引导的批评
  • 单标几何:数值流形
  • 单标几何 06:堆叠分片流形
  • 单标几何 07:注意力

相似文章

锯齿形智能——或许是终点,而非临时绕道

Reddit r/ArtificialInteligence

文章讨论了安德烈·卡帕西(Andrej Karpathy)提出的“锯齿形智能”概念,强调了AI能力在不同领域的不均匀分布,并指出真正的价值在于“鞍具”——围绕通用模型构建的领域特定工程和工具。文章断言,拥有深厚领域专业知识的小团队可以取得显著的策略优势,尤其是在网络安全领域。

认知债务:AI作为智力杠杆与系统性脆弱性动态

arXiv cs.AI

本文提出了认知债务的形式化理论,其中使用AI替代第一性原理推理会积累未经核实的义务,导致系统性脆弱性和认知明斯基时刻,表明分散均衡过度采用替代性AI而未考虑外部性。