ARC-AGI 排行榜
摘要
ARC-AGI排行榜展示了模型在基准的三个版本上的性能,衡量流体智力和高效适应能力,并附有推理系统和原始LLM的趋势线。
暂无内容
查看缓存全文
缓存时间: 2026/07/25 08:07
# ARC Prize - 排行榜
来源:https://arcprize.org/leaderboard
ARC\-AGI\-1
ARC\-AGI\-2
ARC\-AGI\-3
### 理解排行榜
ARC\-AGI 已从早期版本(ARC\-AGI\-1 和 2)——主要衡量被动流体智能——演进到 ARC\-AGI\-3,该版本挑战 AI 智能体在新型交互式环境中即时适应。
上方的散点图直观展示了每项任务的成本与性能之间的关键关系——这是衡量效率的重要指标。真正的智能不仅仅在于解决问题,更在于以最少的资源高效地解决问题。
#### 数据解读
- **推理系统趋势线**:解决方案展示了同一模型在不同推理层级下的连接数据点。这些趋势线反映了推理时间增加对性能的影响,通常表现为随着思考时间增加而呈现渐近行为。
- **基础大语言模型**:解决方案代表 GPT-4.5 和 Claude 3.7 等标准语言模型的单次推理结果,不包含扩展推理能力。这些数据点展示了未经额外推理增强的原始模型性能。
- **Kaggle 系统**:解决方案展示了 Kaggle 挑战中的竞赛级提交,在严格的计算约束下运行(120 个评估任务预算为 50 美元计算费用)。这些是为 ARC Prize 专门构建的高效方法。
#### 验证政策
更多信息,请参阅我们的测试政策 (https://arcprize.org/policy)。
### 排行榜详细说明
#### 备注
仅显示运行成本低于 10,000 美元的系统。
对于无法生成完整测试结果的模型,剩余任务标记为错误。
标记为“预览”的结果为非官方结果,可能基于不完全测试。
1ARC\-AGI\-2 分数基于部分测试结果和 o1\-pro 定价估算。
2临时成本估算基于 Gemini 3 Pro 定价。模型将在发布后重新测试。
相似文章
GPT-6 Sol 与 Astra 登顶 ARC-AGI-3 排行榜
GPT-6 Sol 和 Astra 已占据 ARC-AGI-3 排行榜的前两名,标志着前沿 AI 模型在抽象推理基准测试上取得了显著进展。
Kaggle 上 ARC-AGI-3 的最高分在 30 天内从 7% 飙升至 56% [N]
在 ARC-AGI-3 基准测试上,Kaggle 的最高分仅在 30 天内就从 7% 跃升至 56%。在一个本意用于展示人类认知优势的基准上,规模较小的本地模型在 harness(代理框架)的辅助下,已经击败了普通人类。
@gdb: arc-agi-3 现已饱和
OpenAI 的 GPT-6 Astra 在 ARC-AGI-3 基准测试中取得最先进的性能,得分63%,在96%的层级上超越人类表现,展示了先进的符号建模能力。
Opus 4.8 刚刚打破了 ARC-AGI-3(1分钟阅读)
一个名为 LisanBench 的新基准测试评估了 LLM 在需要规划、记忆和约束遵循的单词链任务上的表现,结果显示 o3 和 Anthropic 模型表现强劲。
ARC-AGI 3 并非 AGI 的诚实衡量标准
一篇批评文章认为,ARC-AGI 3 不公平地禁用了智能体在多次操作之间维持上下文的能力,使其成为对通用智能的不诚实衡量。文章指出,允许压缩(compaction)后得分增至原来的三倍,同时使用的 token 数量少得多,而现实世界的智能体正是这样工作的。