ARC-AGI 排行榜

Hacker News Top 新闻

摘要

ARC-AGI排行榜展示了模型在基准的三个版本上的性能,衡量流体智力和高效适应能力,并附有推理系统和原始LLM的趋势线。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/07/25 08:07

# ARC Prize - 排行榜 来源:https://arcprize.org/leaderboard ARC\-AGI\-1 ARC\-AGI\-2 ARC\-AGI\-3 ### 理解排行榜 ARC\-AGI 已从早期版本(ARC\-AGI\-1 和 2)——主要衡量被动流体智能——演进到 ARC\-AGI\-3,该版本挑战 AI 智能体在新型交互式环境中即时适应。 上方的散点图直观展示了每项任务的成本与性能之间的关键关系——这是衡量效率的重要指标。真正的智能不仅仅在于解决问题,更在于以最少的资源高效地解决问题。 #### 数据解读 - **推理系统趋势线**:解决方案展示了同一模型在不同推理层级下的连接数据点。这些趋势线反映了推理时间增加对性能的影响,通常表现为随着思考时间增加而呈现渐近行为。 - **基础大语言模型**:解决方案代表 GPT-4.5 和 Claude 3.7 等标准语言模型的单次推理结果,不包含扩展推理能力。这些数据点展示了未经额外推理增强的原始模型性能。 - **Kaggle 系统**:解决方案展示了 Kaggle 挑战中的竞赛级提交,在严格的计算约束下运行(120 个评估任务预算为 50 美元计算费用)。这些是为 ARC Prize 专门构建的高效方法。 #### 验证政策 更多信息,请参阅我们的测试政策 (https://arcprize.org/policy)。 ### 排行榜详细说明 #### 备注 仅显示运行成本低于 10,000 美元的系统。 对于无法生成完整测试结果的模型,剩余任务标记为错误。 标记为“预览”的结果为非官方结果,可能基于不完全测试。 1ARC\-AGI\-2 分数基于部分测试结果和 o1\-pro 定价估算。 2临时成本估算基于 Gemini 3 Pro 定价。模型将在发布后重新测试。

相似文章

Kaggle 上 ARC-AGI-3 的最高分在 30 天内从 7% 飙升至 56% [N]

Reddit r/MachineLearning

在 ARC-AGI-3 基准测试上,Kaggle 的最高分仅在 30 天内就从 7% 跃升至 56%。在一个本意用于展示人类认知优势的基准上,规模较小的本地模型在 harness(代理框架)的辅助下,已经击败了普通人类。

@gdb: arc-agi-3 现已饱和

X AI KOLs Timeline

OpenAI 的 GPT-6 Astra 在 ARC-AGI-3 基准测试中取得最先进的性能,得分63%,在96%的层级上超越人类表现,展示了先进的符号建模能力。

ARC-AGI 3 并非 AGI 的诚实衡量标准

Reddit r/singularity

一篇批评文章认为,ARC-AGI 3 不公平地禁用了智能体在多次操作之间维持上下文的能力,使其成为对通用智能的不诚实衡量。文章指出,允许压缩(compaction)后得分增至原来的三倍,同时使用的 token 数量少得多,而现实世界的智能体正是这样工作的。