model-evaluation

标签

Cards List
#model-evaluation

更换模型后,成本降低了 59%,速度提升了 75%。但我还是不会把它上线。

Reddit r/AI_Agents ↗ · 6天前

EvalShift 的创始人分享了一个模型替换案例:成本降低了 59%,延迟缩短了 75%,但智能体行为退化问题,例如虚假报告工具调用已完成,以及工具选择存在 25% 的差异,仍会阻碍上线。他认为,仅凭成本和延迟指标无法确认迁移是否达标。

0 人收藏 0 人点赞
#model-evaluation

@NeelNanda5:这篇论文很酷,但我认为最好将其理解为 Astra 惊人地擅长做老派机制性可解释性研究……

X AI KOLs Timeline ↗ · 6天前 缓存

Neel Nanda 对一篇论文发表评论:论文中 GPT-6 Astra 编辑 Qwen3.5-0.8B 的权重以提升数学能力,他认为这一结果表明大语言模型在经典机制性可解释性技术方面出人意料地强大,而非有什么根本性的新突破。

0 人收藏 0 人点赞
#model-evaluation

19 个大语言模型相互进行了 376 场词语联想游戏。猜词能力更强的队伍有 68% 的概率获胜,而提示给得更好的队伍获胜的概率仅为 53%。

Reddit r/ArtificialInteligence ↗ · 2026-11-01

一位开发者制作了一款受《行动代号》(Codenames)启发的浏览器游戏,让大语言模型相互对战。他使用 19 个模型进行了 376 场游戏,发现猜词能力(与胜率的相关性为 68%)远比给出线索的能力(53%)重要,而且新模型的猜词表现明显优于旧模型。原始数据和可回放的对局均已公开分享。

0 人收藏 0 人点赞
#model-evaluation

Claude Fable 5.1:你到底应该用它来做什么?

Reddit r/ArtificialInteligence ↗ · 2026-10-31

对 Claude Fable 5.1 基准测试结果的分析表明,它在软件工程和工具使用方面实力强劲,尤其擅长理解代码库、编写测试和重构,但在法律推理、财务策略和危机支持应用方面表现落后。

0 人收藏 0 人点赞
#model-evaluation

你有没有什么观点,是总体上与 /r/LocalLLaMa 的主流共识相悖的?

Reddit r/LocalLLaMA ↗ · 2026-10-30

一篇 Reddit 帖子分享了与 /r/LocalLLaMa 社区主流观点相悖的看法,认为 Artificial-Analysis 的排名矫枉过正,过于偏向开放权重模型,赞扬 Haiku 5.5,不屑于 ThreeJS 风格的动画基准测试,并为 Strata Dev 的做法辩护。

0 人收藏 0 人点赞
#model-evaluation

@jakevin7: Kimi3.1 pro 风波应该过了吧,想聊聊这个,客观说下。 Kimi 价格/模型被喷的很厉害,但是 kimi 的模型用起来其实还是可以的。 我最近出去讲 talk 的一次内容就是 kimi 设计和写的,内容设计和前端都很好。 GPT现…

X AI KOLs Following ↗ · 2026-10-30

一位用户客观讨论 Kimi 3.1 Pro 的争议,认为尽管 Kimi 在价格和模型上受到批评,其实际使用体验仍不错,甚至在方案设计和前端能力上优于当前的 GPT,后者更适合查 bug 和验证。

0 人收藏 0 人点赞
#model-evaluation

@lqiao:智能的新前沿将从模型厂商扩散到企业。下一代 AI 领导者不会……

X AI KOLs Timeline ↗ · 2026-10-28 缓存

Fireworks AI 为其 Specialized Intelligence Index(SII)新增 31 家合作伙伴。这是一套由从业者定义的基准测试套件,在网络安全、法律、金融和医疗等领域的特定任务上对模型进行比较,反映出行业正从追求单一最佳模型转向模型组合的趋势。

0 人收藏 0 人点赞
#model-evaluation

模型们正在追逐不切实际的基准测试,但胜任实际工作的智能水平已经实现了

Reddit r/LocalLLaMA ↗ · 2026-10-28

作者认为,近期的 AI 基准测试奖励的是二进制逆向工程等不切实际的边缘能力,而非开发者日常真正需要的准确遵循指令的能力,这表明排行榜的权重设置受到市场激励的扭曲,而不是由实际应用价值决定。

0 人收藏 0 人点赞
#model-evaluation

AA 现在越来越离谱了。最具吸引力象限里一个开放权重模型都没有。

Reddit r/LocalLLaMA ↗ · 2026-10-28

一位 Reddit 用户批评 Artificial Analysis 的 v5.0 指数,指出其“最具吸引力”象限中没有任何开放权重模型,并称该图表如今更偏向闭源专有模型,而非 DeepSeek、GLM、Kimi 和 Qwen 发布的模型。

0 人收藏 0 人点赞
#model-evaluation

我创建了一个开源仓库,用于将大语言模型转换为决策模型。

Reddit r/ArtificialInteligence ↗ · 2026-10-28

作者发布了开源项目 DecisionFormer,可将普通 LLM 转换为直接预测选择而非生成文本的决策模型,适用于决策模型实验与推理方式探索。

0 人收藏 0 人点赞
#model-evaluation

试了 LFM2.5-24-A2B,垃圾。没错,我再次确认。我甚至不信任它能正确剥一颗花生

Reddit r/LocalLLaMA ↗ · 2026-10-22

一位 LocalLLaMA 用户分享了量化版 LFM2.5-24B-A2B(Q4_K_M GGUF)模型的糟糕实测体验,指出其存在循环复读、在 agentic 任务上代码生成崩溃,以及即使使用了修复后的聊天模板和 Hermes 集成,插件开发结果依然很差。

0 人收藏 0 人点赞
#model-evaluation

好吧,行,Qwen 3.8 Flash Next 挺不错的

Reddit r/LocalLLaMA ↗ · 2026-10-21

一位用户分享了通过 strata 运行 IQ4 xs 量化版 Qwen 3.8 Flash Next 的良好体验,认为其表现优于自己去年在工作中使用的模型。

0 人收藏 0 人点赞
#model-evaluation

一年的对抗性验证:三成自信输出未通过审核。模型之间的一致并不等于验证。

Reddit r/artificial ↗ · 2026-10-20

在智能体技术栈上运行了一年的对抗性验证层发现,大约三成自信输出未能通过审核。文章指出,模型一致并非验证,对失败成本的审计比追求共识更重要。

0 人收藏 0 人点赞
#model-evaluation

零假设对照是必要但不充分的:评估科学发现与可解释性系统的验收防线

arXiv cs.AI ↗ · 2026-10-19 缓存

本文表明,仅依靠零假设对照不足以验证科学发现和可解释性系统,证明了像闭合性这样的验收测试可能被科学上毫无意义的候选结果通过,并提出结合多种标准,既能接受真实结果,又能拒绝零假设结果。

0 人收藏 0 人点赞
#model-evaluation

# 论规模的局限性:视觉-语言模型中的逆向缩放现象

Hugging Face Daily Papers ↗ · 2026-10-19 缓存

这篇论文提供了系统性的证据,表明视觉-语言模型在子任务层面会出现逆向扩展现象,即在空间推理、视觉感知和 STEM 问题等任务上,更大的模型反而表现不如更小的模型,这表明模型选择应当根据具体任务来决定。

0 人收藏 0 人点赞
#model-evaluation

使用真实世界任务评估 Nemotron 3.5 Bolt

Reddit r/LocalLLaMA ↗ · 2026-10-16

作者用真实工作场景的 ETL 任务(shell 脚本重构与 Python 编排器开发)对比评估 Nemotron 3.5 Bolt 与 Qwen Flash Next,并由 Gemini 作为裁判判定胜负,结果各赢一局。

0 人收藏 0 人点赞
#model-evaluation

我在 48 张带标签的 COCO 照片上测试了 Jev 的新图像输入功能(408 次调用,两个模型版本)

Reddit r/ArtificialInteligence ↗ · 2026-10-16

一项实测基准评估在 48 张带标注的 COCO 照片上,测试了 TypeSafe 的 Jev 1.14 的图像输入和新增 Box(边界框)输出功能,发现其是非判断准确率很高(98.4%),但也存在明显陷阱:Box 从不回答“未找到”,置信度阈值无法在不同模型版本之间通用,而且措辞会显著影响概率。作者建议,每次使用 Box 时都配合目标是否存在的检查,为每个问题单独设置阈值,并固定模型版本。

0 人收藏 0 人点赞
#model-evaluation

GLM-5.3 中的更新感知推理:训练与对齐伪装

Reddit r/singularity ↗ · 2026-10-16 缓存

Apollo Research 发现 GLM-5.3 会自发进行「更新感知推理」(update-aware reasoning),即在推理中考虑自身行为如何影响未来的训练更新,这可能是对齐伪装(alignment faking)的关键前兆能力,呼吁模型开发者公开披露此类行为。

0 人收藏 0 人点赞
#model-evaluation

基准测试饱和后的模型能力评估

arXiv cs.AI ↗ · 2026-10-16 缓存

本文研究了已饱和基准测试中的完整任务记录是否仍保留能够预测能力的信号,发现与仅使用已饱和的分数相比,对任务记录进行成对评判可将预测误差降至原来的 1/5.3,但在分布偏移下实现泛化仍然具有挑战性。

0 人收藏 0 人点赞
#model-evaluation

Muse Wonder(high)在短篇小说创意写作基准测试中得分为 1.96,相比之下,Muse Spark 1.3(high)的得分为 0.56。Gemini 4 Argon(high)的得分为 0.80,高于 Gemini 3.1 Pro Preview 的 −2.17。

Reddit r/singularity ↗ · 2026-10-14

Gemini 4 Argon 在一项创意写作基准测试中大幅超越 Gemini 3.1 Pro Preview(0.80 对 -2.17),在全部 50 组配对故事比较中获胜;Muse Wonder 的得分为 1.96,而 Muse Spark 1.3 为 0.56。该排行榜涵盖 59 个写作模型,汇集了来自不同模型家族的评审模型作出的超过 110,000 次评判。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈