超越人类尺度的智能测量
摘要
本文提出了一种新的范式,用于测量超越人类能力的智能,采用对抗性心理测量评分系统,其中模型生成挑战以区分其他系统,从而实现与AI能力同步扩展的评估。
arXiv:2607.07040v1 公告类型:新
摘要:如何测量超越人类能力的智能?
人类编写的基准测试会饱和,而在人类能力之上,评审者可能不知道哪些任务既困难又可验证。我们认为这种困难是绝对尺度评估固有的,并提出了一种基于相对测量的新范式,其中模型生成公共挑战以区分其他系统。聚合这些结果产生了一个对抗性心理测量评分系统,该系统可以与被测量的系统一同扩展。我们描述了实用的协议,这些协议减少了对私人信息攻击的激励,支持无评审裁决,并自然地随智能体能力扩展。我们在可验证和开放式、非可验证的领域实例化了该框架,展示了模型生成的评估如何在人类前沿之外继续测量系统。
查看缓存全文
缓存时间: 2026/07/09 07:55
# 测量超越人类水平的智能 来源:https://arxiv.org/abs/2607.07040 查看 PDF (https://arxiv.org/pdf/2607.07040) > **摘要:**如何测量超越人类能力的智能?人类编写的基准测试趋于饱和,而在超越人类能力的水平上,出题者可能不知道哪些任务既困难又可验证。我们认为这种困难是绝对尺度评估所固有的,并提出了一种基于相对测量的新范式:让模型生成公开挑战,用于区分其他系统。汇总这些结果可形成一个对抗性的心理测量评级系统,该系统能与被测量的系统一起扩展。我们描述了实际协议,以减少私有信息攻击的动机,支持无裁判裁决,并能自然地随智能体能力扩展。我们分别在可验证域和开放式不可验证域中实例化该框架,展示了模型生成的评估如何能持续测量超越人类前沿的系统。 ## 提交历史 发件人:Elad Hazan [查看电子邮件 (https://arxiv.org/show-email/532769a8/2607.07040)] **[v1]** 2026年7月8日星期三 06:19:10 UTC(40 KB)
相似文章
心理能力:AI评估中缺失的一个维度
本文提出将心理能力作为AI评估中缺失的一个维度,并提出了一个概念框架,用于评估AI系统在面向人类角色时如何支持用户认知、情绪解读和决策。
我们衡量了AI能力在模型规模扩大时如何相互作用。在3.5B以下,推理与真实性相互对抗。超过这个规模,它们协同合作。这种转变是可工程化的。(2篇论文 + 交互式仪表盘 + 7个可证伪预测)
研究人员发现了一个关键规模(约35亿参数),在该规模下,AI模型的推理与真实性之间的权衡从对抗转向合作。他们提供了一个框架、交互式仪表板以及开源引导工具,用于识别并纠正小规模下出现的错误输出。
@ryaneshea: 今天我发布了 AI IQ —— 前沿 AI 模型,按照人类智商量表进行评分。摒弃无尽的排行榜表格,AI IQ 展示了:• 模型在智商正态分布曲线上的位置 • 前沿智商随时间的变化 • 模型在智商和情商方面的对比 • 实践中获取智能的成本。包括 GPT-5.5、Claude Opus 4.7、Gemini 3.1、Grok 4.3、Kimi K2.6、Qwen 3.6、DeepSeek V4、Muse Spark 等。链接在首评中。好奇哪张图表最让你惊讶。
作者推出了“AI IQ”,这是一款新工具,按人类智商量表对前沿 AI 模型进行评分,提供模型性能、智能成本以及情商对比的可视化图表,而非传统的排行榜表格。
模块化AI系统中的参与扩展
本文介绍了“参与扩展”这一新范式,通过多样化利益相关者的贡献构建模块化AI系统。其中,小型模型协作在多种任务上比单体LLM性能高出最多15.4%,展现出涌现能力并改善多样性收益。
有基准却无度量——生成式人工智能应以现实效用为评估标准
本文主张生成式人工智能的评估应从静态基准转向衡量现实效用和人类成果。文章提出了 SCU-GenEval 框架及辅助工具,旨在解决基准表现与部署成功之间的脱节问题。