有人曾对AI智能体进行SOLIDWORKS CSWA考试的基准测试吗?

Reddit r/LocalLLaMA 新闻

摘要

本文探讨了通过SOLIDWORKS CSWA考试对AI智能体进行基准测试,以评估其在真实认证场景中的能力,并提到AI在Parametric CAD Bench等基准测试中的得分持续上升。

这不是很有趣吗?模型在Parametric CAD Bench等基准测试中的得分越来越高,但它们能通过实际考试吗?Certified SOLIDWORKS Associate (CSWA)考试或许是一个不错的起点。他们的网站上提供了样题。有人尝试过对此进行基准测试吗?
查看原文

相似文章

SWE-Bench Pro V2(阅读时间9分钟)

TLDR AI

SWE-Bench Pro V2是一个更新的基准测试,用于在软件工程中评估AI代理,包含来自11个代码库的642个任务,具有改进的评估协议和污染控制。

@rohanpaul_ai: 当前前沿智能体在现实自动化方面的准备程度远不及它们在基准测试中的分数所暗示的那样。本文提…

X AI KOLs Following

本文介绍了“智能体最终考试”(Agents' Last Exam),这是一个测试AI智能体在55个数字工作领域中进行真实专家工作能力的基准。目前最强的智能体在大多数任务上失败,在最难的层级中平均通过率仅为2.6%,揭示了基准分数与现实世界自动化准备程度之间的巨大差距。