@withmartian:在 16 个最常用基准测试(TerminalBench、LiveCodeBench 等)中,我们比单一最佳大语言模型少产生了 46% 的错误……
摘要
一项研究表明,通过在 44 个大语言模型间分配请求,可在 16 个基准测试(如 TerminalBench 和 LiveCodeBench)上减少 46% 的错误,从而优化性能。
查看缓存全文
缓存时间: 2026/09/03 20:10
我们在16个最常用的基准测试(TerminalBench、LiveCodeBench等)中,错误率比单一最佳大语言模型降低了46%。
以下是实现方式,以及每个模型在最佳使用状态下能达到的效果(所有基准测试都未能充分体现模型的大部分能力)👇
互动网站:https://aifrontier.withmartian.com 学术论文:https://arxiv.org/abs/2606.26836
AI前沿 - Martian
来源:https://aifrontier.withmartian.com/ 标准基准测试仅对单个模型进行单次评估,系统性地低估了AI的实际能力。
通过将请求路由至44个大语言模型,我们构建了能力边界——在每个成本层级上可达到的最佳性能。
这种方法在匹配的尖端成本和质量下,分别实现了错误率的降低或成本的节省。
相似文章
@msimoni: 到目前为止,我还未能让LLM在编程的困难部分显著帮助我——设计代码……
作者发现,LLM在编程的困难部分(设计简单、通用、清晰的代码)并没有显著帮助,但在其他部分却非常有用,以至于他们将其评为10倍的生产力提升。
我在 MacBook Air M5 上对 21 款本地大模型进行了代码质量与速度的性能评测
一位开发者在 MacBook Air M5 上使用 HumanEval+ 对 21 款本地大模型进行了基准测试,发现 Qwen 3.6 35B-A3B (MoE) 以 89.6% 的得分和 16.9 tok/s 的速度位居榜首,而 Qwen 2.5 Coder 7B 仅需 4.5 GB 内存即可达到 84.2% 的性能,拥有最佳的内存性价比。值得注意的是,Gemma 4 系列的表现远低于预期(31B 版本仅得 31.1%),这可能是受 Q4_K_M 量化策略的影响。
@martinfowler: 新文章 Birgitta Böckeler 最近花了一些时间尝试在本地运行LLMs来完成一些编程任务。在本…
Birgitta Böckeler 分享了她在本地运行LLMs完成编程任务的经验,概述了影响其可行性的因素,如RAM、响应速度、工具调用和结果质量。
@h100envy: 前vLLM核心贡献者用34分钟解释如何将LLM推理成本降低10倍——比$3000的推理优化训练营更有效
一位前vLLM核心贡献者解释了如何通过LMCache将KV缓存卸载到CPU/SSD/远程存储,从而使LLM推理成本降低10倍,这一技术已被彭博等生产环境采用。
@techNmak: 你的LLM推理正在消耗50%的计算资源在已经完成的工作上。如果你正在运行RAG或多轮对话,……
LMCache是一个开源库,它使KV缓存持久化并可在请求之间共享,消除了RAG和多轮对话工作负载中的重复计算,实现了高达15倍的吞吐量提升和3-10倍的首令牌时间减少。