@danshipper:Muse Wonder 在我们的高级工程师基准测试中表现令人失望。该测试要求模型重写一段凭感觉编程出来的垃圾代码……
摘要
Dan Shipper 指出,Muse Wonder 在高级工程师基准测试(测试从零重写通过氛围编程生成的代码仓库的能力)中仅取得了令人失望的 52% 成绩,远落后于 GPT-Sol 6.1 的 71%。
查看缓存全文
缓存时间: 2026/10/13 11:43
Muse Wonder 在我们的高级工程师基准测试中表现令人失望。
这项测试要求模型从头重写一个靠氛围编程堆出来的垃圾代码库——很适合衡量它在实际工程工作中的实用性
Muse Wonder 得分 52%——远远落后于得分 71% 的 GPT-Sol 6.1 https://checks.every.to/p/senior-engineer-benchmark…
高级工程师基准测试
来源:https://checks.every.to/p/senior-engineer-benchmark 高级工程师基准测试是一个人设计的基准测试:测试内容是其使用 AI 完成的实际工作,评分依据是其判断输出是否合格时检查的事项。它回答的是“对于我在意的事情,哪个模型最擅长完成我的工作”,而不是对模型质量作出普遍判断。
每个模型占一行,每个案例按其最近一次公开运行的结果评分。每个分数下方都有一条进度条,实色部分表示通过的检查所占比例,斜线阴影部分表示其余部分;每列的最高分以粗体显示。
一次运行的结果表示为通过的检查数除以适用的检查数。代码检查由程序完成,模型检查由 LLM 评审完成,评审始终使用 Claude。案例的得分取自最近一次运行,任务得分是其各案例得分的平均值,总体得分则是所有任务得分的平均值。总体得分的进度条长度对应模型实际运行的任务比例,轨道的其余部分留空。打开一个单元格,即可查看实际输出,以及它通过和未通过的检查。
JSON 数据源 (https://checks.every.to/p/senior-engineer-benchmark/feed)
相似文章
@_jasonwei: Muse Spark 1.1 在放射学最后考试中表现优于 GPT-5.6 Sol 和 Gemini 3.1。我们尚未超越 Fable(目前)。而人类...
Muse Spark 1.1 在放射学最后考试 2.0(一项面向医疗自主 AI 诊断的新型视觉推理基准)上表现优于 GPT-5.6 Sol 和 Gemini 3.1,但落后于 Fable 和人类放射科医生。
Muse Wonder(high)在扩展版 NYT Connections 基准测试中得分 93.4,领先 Muse Spark 1.3(high)的 85.1。它是受测模型中成本最高的之一。
Muse Wonder(high)在扩展版 NYT Connections 基准测试中取得 93.4 的成绩,超过 Muse Spark 1.3(high)的 85.1,但其成本在受测模型中位居最高之列。
@danshipper:我要删掉那条关于 Muse 在我们的高级工程师基准测试中表现的推文!发现测试运行出了问题,接下来打算……
Dan Shipper 表示,他发现测试运行中存在一个问题,并计划重新运行,因此将删除自己关于 Muse 在 Every 的高级工程师基准测试中表现的推文。
@QuixiAI:Muse Code(muse-wonder-full-1.0 high)表现真的很不错。根据我的直觉测试,它比 Astra 更好。还没那么好……
用户分享对 Muse Code (muse-wonder-full-1.0 high) 的体验测试,认为其表现优于 Astra、接近 Claude Code Fable 和 5.5 Opus,且速度更快,能处理 Codex 无法胜任的复杂编译器开发任务。
Muse Spark 在五个全栈网站构建项目中以41比39击败 DeepSeek
在五个全栈网站构建项目中,Muse Spark 1.2 Contributor 与 DeepSeek 4 Flash Vision 的对比测试得分分别为41/50和39/50,突显了两者在UI、UX和交付方面的差异。