open-llm

一条推文宣布了一个基于种子的网站，用于下载开放LLM模型权重，将其定位为开放模型的海盗湾替代品。

帖子作者指出，LFM2.5 8B A1B模型的MoQ GGUFs提供了最佳的精度/大小比，并建议不要使用精度恢复低于95%的版本。

本文测量了来自8个开放LLM家族的27个检查点的最大激活幅度，发现不同家族、架构和训练阶段之间存在显著差异，这对低位量化和部署具有影响。