llm-benchmark

标签

Cards List
#llm-benchmark

19 个大语言模型相互进行了 376 场词语联想游戏。猜词能力更强的队伍有 68% 的概率获胜,而提示给得更好的队伍获胜的概率仅为 53%。

Reddit r/ArtificialInteligence ↗ · 2026-11-01

一位开发者制作了一款受《行动代号》(Codenames)启发的浏览器游戏,让大语言模型相互对战。他使用 19 个模型进行了 376 场游戏,发现猜词能力(与胜率的相关性为 68%)远比给出线索的能力(53%)重要,而且新模型的猜词表现明显优于旧模型。原始数据和可回放的对局均已公开分享。

0 人收藏 0 人点赞
#llm-benchmark

@HuggingPapers: 持续学习考试(CLE)LLM 智能体真的能从经验中学习吗?CLE 汇集了 120 个专家编写的专业任务……

X AI KOLs Following ↗ · 2026-11-01 缓存

持续学习考试(CLE)引入了 120 个专家编写的专业任务,组织成 5 级阶梯结构,用于测试 LLM 智能体能否复用早期获得的知识;即便是最佳配置也只能通过 47.7% 的关卡。

0 人收藏 0 人点赞
#llm-benchmark

OpenFrontiers:开放研究问题集与科学再发现基准

arXiv cs.AI ↗ · 2026-10-31 缓存

OpenFrontiers 推出了一个跨学科语料库,包含 12,151 个尚未解决的研究问题,以及一个由 200 个近期已解决的数学问题组成的回溯性基准,这些问题均附有 Lean 4 形式化陈述。该研究评估了七个大语言模型智能体,发现它们在闭卷条件下重新发现研究级成果的情况仍然罕见,而在实时联网条件下取得的成功则主要源于检索已发表的解答。

0 人收藏 0 人点赞
#llm-benchmark

JEV arena 博客与基准测试

Reddit r/LocalLLaMA ↗ · 2026-10-28

JEV Arena 是一个开源的 2D 格斗游戏基准测试,决策模型会根据血量、距离和对手行动来决定每一步操作。平台提供在线排行榜、自定义战士配置,以及一个名为 'mental_attack' 的招式——模型可以通过它向对手的 prompt 中注入消息。

0 人收藏 0 人点赞
#llm-benchmark

BoardSafety:从制造商文档中提取面向 AI 的数据,保障开发板安全

arXiv cs.AI ↗ · 2026-10-27 缓存

本文介绍了 BoardSafety,这是一个基于厂商数据手册构建的基准,用于评估大语言模型能否判断某项操作对特定开发板是否安全。结果表明,即使能够获取针对特定开发板的规则,当前模型仍无法可靠地作出安全判断。

0 人收藏 0 人点赞
#llm-benchmark

@QuixiAI:我让 Gemini 4 Argon 尝试在我的编译器上构建。它取得了一些进展,但犯了很多错误。Fable 正在清理……

X AI KOLs Timeline ↗ · 2026-10-18 缓存

一位开发者报告称,Gemini 4 Argon 在 With 编译器上进行构建时犯了许多错误,而 Meta Muse Wonder Full 在类似测试中毫无差错,这表明 Muse 更适合用于开发该编译器。

0 人收藏 0 人点赞
#llm-benchmark

我构建了一种 LLM 无法使用的编程语言

Hacker News Top ↗ · 2026-10-17 缓存

作者设计并开源了 KillSwitch,一种专为对抗 LLM 和编码代理而构建的栈式编程语言,利用隐藏谎言规范、字符计数规则、触发安全护栏的语句等特性,并对主流 LLM 进行了基准测试,Claude Opus 5 表现最佳。

0 人收藏 0 人点赞
#llm-benchmark

Qwen3.8-27B-antislop,通过 RL 针对 slop(AI 味/废话文风)进行优化,在 eq bench4 上位列前四。

Reddit r/LocalLLaMA ↗ · 2026-10-16

一位社区成员发布了 Qwen3.8-27B-antislop,这是一个以 Meta 的 RL XAR 风格进行强化学习训练的 Qwen 27B 模型,旨在减少大模型"马虎"(sloppy)风格的输出。该模型在 EQbench 排行榜上位列第 4(BF16+MXFP4)。模型权重和 GGUF 版本均可在 Hugging Face 上获取。

0 人收藏 0 人点赞
#llm-benchmark

Show HN:Gemini 4 Argon 玩 StarCraft

Hacker News Top ↗ · 2026-10-16 缓存

StarSkirmish Bench v0.2 在一小时时限内让各旗舰 LLM 用 C++ 编写 StarCraft: Brood War 神族机器人并与人类选手机器人对战,GPT-6 Astra 以明显优势居首,Gemini 4 Argon、Claude Opus 5.5 和 Claude Fable 5.1 紧随其后,且结果显示人类顶尖机器人仍远超所有模型。

0 人收藏 0 人点赞
#llm-benchmark

VALCON:通过双角色变换评估并增强大语言模型的价值观一致性

arXiv cs.CL ↗ · 2026-10-16 缓存

该论文提出VALCON框架,通过生成者/评判者双重角色变体来基准测试并提升大语言模型的价值一致性,实验揭示28个LLM普遍存在跨角色不一致问题,并提出基于表征的干预方法加以缓解。

0 人收藏 0 人点赞
#llm-benchmark

谁有权免除智能体的承诺义务?多方聊天中对承诺的处置权限

arXiv cs.AI ↗ · 2026-10-16 缓存

该论文提出'主体资格'概念,研究多用户聊天中智能体的承诺能否被非债权人取消,并在六个模型上区分未授权释放与覆盖两类错误,发现自维护承诺账本加释放策略可显著提升严格准确率。

0 人收藏 0 人点赞
#llm-benchmark

SmartSalesBench:面向大语言模型销售智能体评估的抗拒感知多轮基准

arXiv cs.AI ↗ · 2026-10-12 缓存

我们提出了 SmartSalesBench,这是首个多轮对话基准,旨在评估大语言模型销售代理面对基于心理学构建、具有抗拒倾向的买家角色时的表现,包含九项评估指标,并在四个模型上开展了实验,共计 13,680 场会话。

0 人收藏 0 人点赞
#llm-benchmark

RAG-Stress:探究检索增强生成中证据依赖的边界

arXiv cs.CL ↗ · 2026-10-09 缓存

RAG-Stress 提出一个受控诊断协议,通过编辑检索证据中的单一断言来诱导错误答案,量化模型在检索增强生成中被误导证据覆盖正确答案的比率(misleading rate),并发现严格遵循文档的指令会系统性提高误导率。

0 人收藏 0 人点赞
#llm-benchmark

我们让325个AI模型在点数预算内打造怪兽格斗者。三分之一首次尝试失败,通常是超支。

Reddit r/ArtificialInteligence ↗ · 2026-10-08

AI Monster Brawl将同一提示词发送给OpenRouter上全部325个文本模型,要求在1000点预算内打造怪兽格斗者;三分之一首次尝试失败,多数因超支,另有7%始终未能产出有效的格斗者。文章分析了常见失败模式,包括预算超支、无效部件以及JSON格式错误等问题。

0 人收藏 0 人点赞
#llm-benchmark

sk-bench:一个用于评估斯洛伐克语大语言模型的母语优先基准测试

arXiv cs.CL ↗ · 2026-10-08 缓存

该论文介绍了sk-bench,一个用于评估斯洛伐克语大语言模型的母语优先基准测试,涵盖十个技能类别的30个数据集(33个任务变体),旨在解决现有多种语言基准测试中缺乏斯洛伐克语母语覆盖的问题。

0 人收藏 0 人点赞
#llm-benchmark

Emo-Jev:基于 Jev 的概率推理情感分类框架

arXiv cs.CL ↗ · 2026-10-08 缓存

Emo-Jev 是一个免训练框架,利用 Jev 的概率决策接口进行文本分类,将任务分解为原子判断或聚合多条判断路径以提升分类效果,超越直接预测方式,并在八个情感、情绪、讽刺和幽默数据集上与五个最先进的 LLM 进行了对比评估。

0 人收藏 0 人点赞
#llm-benchmark

基于本体、由推理器验证的基准:用于评估科学人工智能中大语言模型的推理能力

arXiv cs.AI ↗ · 2026-10-02 缓存

论文提出了一种流水线,可自动生成基于本体且经推理器验证的多选题基准,用于评估大语言模型在科学人工智能中的逻辑推理能力;该方法在三个本体(Pizza、PMDco、DOID)和六个大语言模型上进行了验证。

0 人收藏 0 人点赞
#llm-benchmark

Multilingual GSM-Symbolic:什么决定了跨语言的能力迁移?

Hugging Face Daily Papers ↗ · 2026-10-02 缓存

该论文提出了 Multilingual GSM-Symbolic,一个覆盖 15 种语言、包含 30k 条题目匹配的问答对的符号模板数据集,用于量化大语言模型跨语言能力迁移的决定因素。研究发现,模型规模、语言资源水平、推理能力和类型学距离是关键驱动因素,并提出了一个能解释 92% 语言间差异的框架,其对未见语言性能的预测误差在 6.0 个百分点以内。

0 人收藏 0 人点赞
#llm-benchmark

MedKIT:大语言模型知识整合与泛化能力评估

arXiv cs.CL ↗ · 2026-10-01 缓存

MedKIT 是一个新基准,用于评估大语言模型在词法、关系、组合和操作四类探针下,整合与应用更新后临床知识的能力。一项涵盖 5 个模型、12 种知识整合策略的大规模研究发现,事实检索与可实际运用的知识之间始终存在明显差距,组合推理与操作推理能力几乎没有提升。

0 人收藏 0 人点赞
#llm-benchmark

M5 Ultra 实测:Qwen3.8 Flash Next 对决 Laguna S 2.1

Reddit r/LocalLLaMA ↗ · 2026-09-30

在同一台 Mac Studio M5 Ultra 256GB 上,使用相同框架对比了 Qwen3.8-Flash-Next(182GB oQ8e)与 Laguna-S-2.1 GGUF 在最高 262K 上下文下的表现。Qwen 在预填充阶段保持约 4,200 tok/s 的线性速度,解码稳定;而 Laguna 则呈超线性退化;质量方面双方 4/4 打平,但答题风格迥异。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈