llm-performance

标签

Cards List
#llm-performance

我现在(主要)根据速度而非智能来挑选模型

Lobsters Hottest · 2026-08-02 缓存

作者认为前沿大语言模型已经达到了“足够好”的智能门槛,因此现在选择模型时更看重速度而非原始智能,并举例说像GLM5.2和DeepSeek V4 Flash这样快速的开源权重模型已成为日常主力。

0 人收藏 0 人点赞
#llm-performance

10 tokens per second 到底有多快?

Simon Willison's Blog · 2026-05-20 缓存

Simon Willison 探讨了 10 tokens per second 速度对于大型语言模型的实际意义,提供了关于这种速度感觉有多快以及其对可用性的影响的背景信息。

0 人收藏 0 人点赞
#llm-performance

立场:让我们开发数据探针,从根本上理解数据如何影响LLM性能

arXiv cs.AI · 2026-05-20 缓存

这篇立场论文主张开发‘数据探针’——来自随机过程的合成序列——以系统性地研究数据特征如何影响LLM性能,旨在超越经验启发式方法。

0 人收藏 0 人点赞
#llm-performance

@ClementDelangue:笔记本上本地开放权重 AI 的进步速度已超过摩尔定律的两倍!从 2024 年 5 月到 202…

X AI KOLs Following · 2026-05-11

Hugging Face CEO Clement Delangue 表示,在硬件配置不变的情况下,笔记本端本地开放权重 AI 的性能提升速度已达摩尔定律的 4.7 倍,并以模型从 Llama 3 70B 演进至 DeepSeek V4 Flash 的进展作为佐证。

0 人收藏 0 人点赞
#llm-performance

@davis7:@0xSero 帮我把本地模型配置好了,我没想到它们现在竟然这么强大了。这算是前沿(frontier)级别了吗……

X AI KOLs Following · 2026-05-09

作者强调了在 RTX 5090 上本地运行开源 Qwen 3.6-27B 模型的卓越能力,指出其在编程任务上的强劲表现,并与商业模型进行了对比,尽管本地部署过程颇具挑战性。

0 人收藏 0 人点赞
#llm-performance

@GigaAI: 推出幻觉纠正功能。我们将幻觉率降低了70%。Giga的幻觉率约为1%。更胜一筹……

X AI KOLs Timeline · 2026-05-07 缓存

GigaAI 宣布推出新的幻觉纠正功能,将模型的幻觉率降至约1%,并声称其可靠性优于前沿模型。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈