@ClementDelangue：笔记本上本地开放权重 AI 的进步速度已超过摩尔定律的两倍！从 2024 年 5 月到 202…
摘要
Hugging Face CEO Clement Delangue 表示，在硬件配置不变的情况下，笔记本端本地开放权重 AI 的性能提升速度已达摩尔定律的 4.7 倍，并以模型从 Llama 3 70B 演进至 DeepSeek V4 Flash 的进展作为佐证。
笔记本上本地开放权重 AI 的进步速度已超过摩尔定律的两倍！在 2024 年 5 月至 2026 年 5 月期间，你能买到的最顶配 MacBook Pro 的统一内存仍停留在 128 GB，硬件上限几乎毫无变化。但在 @ArtificialAnlys 智能指数上，你能在该设备上实际运行的来自 @huggingface 的最强开放权重模型得分，已从 10 分（Llama 3 70B）跃升至 47 分（基于 @antirez mixed-Q2 GGUF 格式的 DeepSeek V4 Flash）。这意味着在 24 个月内提升了 4.7 倍，相当于智能水平每 10.7 个月翻一番。而摩尔定律（晶体管数量）的翻倍周期为 24 个月。在硬件完全不变的情况下，笔记本端本地开放权重 AI 的进步速度已超过摩尔定律的两倍。
相似文章
@DivyanshT91162: 本地 LLM 迈入了一个全新的阶段。这个 Hugging Face 的发布简直是疯了：“gpt-oss-20b-tq3” 这是一个官方的 200 亿+ …
OpenAI 发布了一款全新的 200 亿参数以上的 MoE 模型，通过 TurboQuant 量化为 3-bit 并利用 MLX 优化，使得在标准的 16GB MacBook 上进行高性能的本地 LLM 推理成为可能。
@Saboo_Shubham_：开源 AI 势头强劲。DeepSeek v4 Flash 是一款准前沿模型，拥有高达 100 万的上下文窗口。它可本地…
文章重点介绍了 DeepSeek v4 Flash，这是一款拥有 100 万上下文窗口的准前沿开源模型，并指出其能够通过 2 比特量化在 128GB 内存的 Mac 上本地运行。
@ClementDelangue：我认为基于@huggingface开源模型的本地部署和边缘AI，将成为今年GPU短缺的重要解决方案…
Clement Delangue宣布Hugging Face与戴尔达成合作，利用开源模型实现本地部署和边缘AI，以解决企业客户的GPU短缺问题。该合作在戴尔科技世界大会上重磅发布。
@TeksEdge: 这是本地AI大新闻！一款新的开源计算机使用大语言模型刚刚发布。Holo 3.1 是 H Company 的 () 新本地 c…
H Company 发布了 Holo 3.1，一个开源专为本地部署优化的计算机使用大语言模型，在 AndroidWorld 基准测试中达到 79.3%，超越了更大的模型如 Qwen3.5-397B 和 Kimi-K2.5。
@rohanpaul_ai: atomic[.]chat（一款本地运行大语言模型的桌面应用）在 MacBook 上进行了一场极具揭示性的本地 AI 智能体对比测试……
Liquid 的 LFM2.5-8B-A1B 在 MacBook Pro 上本地运行工具调用基准测试时，击败了 OpenAI 的 gpt-oss-20b，不仅完成了所有工具调用，耗时还缩短了一半以上，且内存占用更少。