Pathway是否刚刚揭示了Andrew Curran预测的架构突破?其150M模型树立了ARC-AGI-1成本效率新前沿
摘要
Pathway的150M参数BDH-CQ模型在ARC-AGI-1上达到29.5%的准确率,每个任务成本仅为0.0007美元,创下新低,采用循环记忆和潜在推理,而非长token链。该架构或许正是Andrew Curran预告的突破,OpenAI研究员Lukasz Kaiser担任投资者和顾问。
Andrew Curran最近暗示了一项重大的内存效率架构突破,并非来自大型AI实验室,而是来自一个与OpenAI有关联的团队:https://x.com/AndrewCurran_/status/2072076893730349409 Pathway现已发布BDH-CQ:一个150M参数的后Transformer模型,在ARC-AGI-1上获得29.5%的分数,计算成本仅为每个任务0.0007美元,确立了新的成本效率前沿。它使用循环记忆和潜在推理,而不是基于长token的思维链。这其中的联系异常紧密:一种新的内存高效架构,在大型实验室之外开发,而OpenAI研究员、Transformer联合作者Lukasz Kaiser既是投资者又是顾问。这是否就是Curran所暗示的公告?
相似文章
每美元智能是新的扩展定律:一个小型推理模型在Arc-AGI 1上突破现有成本-精度帕累托前沿
Chart Pathway的BDH-CQ,一个150M参数的推理模型,在ARC-AGI-1上达到了29.5%的准确率,每任务成本远低于像GPT-5.6 Luna这样的大型模型,展示了成本-精度权衡的改进。
150M参数循环模型以每任务0.0007美元的成本在ARC-AGI-1上取得29.5%的成绩
本文介绍了BDH-CQ,一个150M参数的循环模型,它结合了上下文学习和潜在推理,以每任务0.0007美元的成本在ARC-AGI-1上取得了29.5%的成绩,为成本效率树立了新标准。
新型AI使用全新的推理方法——研究人员表示,其运行成本比领先的OpenAI模型低多达11倍
来自Pathway的一个新AI模型使用非语言推理,将成本降低多达11倍,与领先的OpenAI模型相比,这在arXiv上的一篇研究论文中有详细说明。
Transformer联合作者验证后Transformer时代成本效率突破
一个1.5亿参数的非Transformer架构在ARC-AGI-1上实现了最先进的成本效率,并获得了Transformer论文联合作者Łukasz Kaiser的验证,表明循环潜在推理可以取代暴力扩展。
单张4090上11.67% ARC-AGI-2本地评估:TOPAS递归架构
作者介绍了TOPAS,一种递归AI架构,在单张RTX 4090上达到了ARC-AGI-2的11.67%,旨在证明架构效率可以超越原始计算能力。