AI逻辑的蛮力方法确实遇到了瓶颈

Reddit r/ArtificialInteligence 新闻

摘要

文章认为自回归语言模型无法真正理解形式数学,需要验证方法,并引用了诸如Aleph等依赖严格数学证明的系统。

老实说,我受够了这种论调:认为只要给自回归模型投喂足够多的GPU和数据,它终将觉醒并真正理解形式数学。当然,它能够生成一个React组件。但当你需要绝对正确、不容丝毫偏差时,整个下一个词预测的假象就会崩塌。我最近读到像Aleph这样的系统如何攻克大规模形式推理基准测试,其底层技术实际上必须依赖严格的数学验证,而不是仅仅猜测最听起来合理的文本序列。如果我们认为标准的大型语言模型能够在行业从根本上改变这些架构先自我验证逻辑之前,安全地运行关键基础设施,那绝对是在自欺欺人。
查看原文

相似文章

强制智能(7分钟阅读)

TLDR AI

文章讨论了像Anthropic的Fable和ChatGPT这样的AI模型如何被数学家用来推翻著名的猜想,提出了一种在可验证答案的领域中新的野蛮智能范式。

缺乏理解的自动化

Hacker News Top

本文认为,随着人工智能系统在数学领域取得突破,美国忽视了理解、验证和指导这些系统所需的人类数学基础设施,从而构成了战略风险。

OpenAI 的数学解答尚未达到该领域的标准

TechCrunch AI

OpenAI 发布了数百个由 AI 生成的高难度数学问题解答,但这些解答未能达到数学与人工智能咨询小组的标准,在形式化、思维链披露和人类可理解性方面存在不足。剑桥大学和国王学院的一篇论文指出,自然语言证明与 Lean 代码之间存在差异。