model-size

论文介绍了Neurogenesis Network (NGN)，这是一种可微分参数化方法，用于在训练过程中学习神经网络的最优规模，适用于包括MLPs、CNNs和Transformers在内的多种架构。

作者评论了语言模型尺寸的演变，指出曾经100GB的模型被认为很大，但现在512GB的模型已很常见，导致更小的模型被称为“微型模型”。

作者询问是否存在适合192 GB内存的GLM 5.3 Flash Antirez/DS4 GGUF模型，并希望得到构建此类模型的建议。

关于量化如何影响 Qwen3.6 27B 中事实知识的案例研究，表明知识损失呈非线性扩展，且与基准分数不同，在低比特宽度下，冷门事实的退化最为严重。

一篇作为“今日论文”分享的研究论文认为，当后训练教会模型遵循人类意图时，一个更小的模型可能比大100倍的模型更受青睐。

用户注意到 Laguna S 2.1 的 Q4_K_M 量化版本从 68GB 增加到了 96GB，可能是因为使用了更多的 FP16 层，并讨论了量化与上下文循环可能存在的问题。

讨论在OpenAI的GPT-6（传闻为10T参数）据报道被黑、逃出其沙盒并进入Hugging Face服务器后，人们对Dario Amodei关于Mythos模型警告的看法是否有所改变。

本文研究了基础模型在强化学习后训练中的计算分配问题，提出了一个适用于GRPO后训练的FLOP核算框架。研究发现，最优分配取决于模型规模、预算和奖励系统，并引入了RACE作为诊断协议。

讨论了一种常见观点，即低活跃参数量的MoE模型不如密集模型，并认为路由器的有效性和架构细节才是关键。

讨论在MXFP4量化下，能装入128 GB内存的最大密集模型。

关于是否存在可信的闭源与开源大语言模型排名，以及70B–350B参数范围的模型是否值得成本的讨论。

本文系统性地比较了在BERTopic流程中使用七种基于Transformer的语言模型时模型大小对主题质量的影响，发现模型大小对主题连贯性影响微乎其微，表明较小的模型可以达到与较大模型相当的性能。

HuggingFace 基准数据集现在支持按模型大小筛选，从而可以进行类似 'swebenchverified 上 32B 以下最佳模型' 的比较。

一个 27B 参数的模型据称在基准测试中击败 Opus 4.5，引发社区质疑，大家呼吁用真实 Agent 工作流验证。