标签
Pathway的150M参数BDH-CQ模型在ARC-AGI-1上达到29.5%的准确率,每个任务成本仅为0.0007美元,创下新低,采用循环记忆和潜在推理,而非长token链。该架构或许正是Andrew Curran预告的突破,OpenAI研究员Lukasz Kaiser担任投资者和顾问。
本文介绍了J-CoT,一种循环推理框架,它使用词汇索引系数(J-thoughts)作为中间接口,在数学、科学、编程和路径推理任务上实现改进的推理性能,而无需完全语言化或密集的隐藏状态循环。
本文介绍了 CosmicFish-HRM,这是一个紧凑的 8277 万参数语言模型,配备层级推理模块,在推理过程中动态分配推理计算资源,并根据输入复杂度学习何时停止。