BDH-CQ:结合循环潜在推理的上下文学习
摘要
本文介绍了BDH-CQ,一个150M参数规模的推理模型,它将上下文学习与循环潜在推理相结合,在ARC-AGI-1上以极低的推理成本实现了29.5%的pass@2,确立了新的成本-精度前沿。
查看缓存全文
缓存时间: 2026/08/11 10:20
论文页面 - BDH-CQ: 基于循环潜在推理的上下文学习
摘要
我们介绍了BDH-CQ,一个将上下文学习与循环潜在推理相结合的推理模型。推理时呈现的输入会持续更新模型的循环记忆;随后,模型在高维潜在空间中通过迭代计算求解查询,而不会将其中间推理过程言语化。我们在公开的ARC-AGI-1评估集上评估了该模型,并使用受控的ARC类干预来研究它从演示中学到了什么、如何一致地应用推断出的变换,以及哪些概念仍然难以处理。一个150M参数的配置在计算推理成本为每任务$0.0007的情况下达到了29.5%的pass@2。这一工作点突破了先前报道的ARC-AGI-1成本-准确性帕累托前沿,在基准成本效率方面确立了新的最先进水平。
在您的智能体中获取此论文:
hf papers read 2608\.09888
没有最新的CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型0
没有模型链接此论文
在模型README.md中引用arxiv.org/abs/2608.09888即可从本页链接到它。
引用此论文的数据集0
没有数据集链接此论文
在数据集README.md中引用arxiv.org/abs/2608.09888即可从本页链接到它。
引用此论文的Space0
没有Space链接此论文
在Space README.md中引用arxiv.org/abs/2608.09888即可从本页链接到它。
包含此论文的集合0
没有集合包含此论文
将此论文添加到集合中即可从本页链接到它。
相似文章
150M参数循环模型以每任务0.0007美元的成本在ARC-AGI-1上取得29.5%的成绩
本文介绍了BDH-CQ,一个150M参数的循环模型,它结合了上下文学习和潜在推理,以每任务0.0007美元的成本在ARC-AGI-1上取得了29.5%的成绩,为成本效率树立了新标准。
2026年潜在推理全景:映射BDH-CQ、HRM/TRM、Coconut [D]
本文探讨了潜在推理作为AI中思维链的替代方案,将方法分为五类,并讨论了对AGI和可解释性的影响。
每美元智能是新的扩展定律:一个小型推理模型在Arc-AGI 1上突破现有成本-精度帕累托前沿
Chart Pathway的BDH-CQ,一个150M参数的推理模型,在ARC-AGI-1上达到了29.5%的准确率,每任务成本远低于像GPT-5.6 Luna这样的大型模型,展示了成本-精度权衡的改进。
面向统一多模态模型的连续空间潜在推理
LARC 为统一多模态模型引入了一种连续空间中的潜在推理框架,以连续隐藏状态推理取代离散词元推理,从而提升图像生成质量并支持测试时扩展,在 GenEval 上的表现比 BAGEL 提升了 7%。
潜空间推理!让潜在视觉推理变得必要
本文介绍了因果视觉循环推理(CVRR),一种强制进行循环隐藏状态计算的视觉推理方法,它在基准测试中提升了性能,同时区分了潜在信息性和实际预测用途。