标签
Drew Breunig 的 nesformer 项目将一个可运行的任天堂娱乐系统(NES)6502 CPU 模拟器嵌入 Qwen3.5-4B 的权重中,使《超级马里奥兄弟》等 NES ROM 能够在模型内部(缓慢地)运行。该项目受 Divyansh Agrawal 的 qwenputer 启发,借助 Opus 5.5 提示词构建,并使用 Christopher Pow 十年前的 nestest 一致性测试套件进行验证。
据The Information报道,OpenAI的Astra模型已成为中国AI实验室的首要蒸馏目标,Moonshot AI在开发Kimi K3.1 Pro时蒸馏了Astra,DeepSeek的V4.1-Flash升级版也受益于对Astra的蒸馏,此前Claude模型曾是中国实验室的主要蒸馏对象。
Qwenputer 是一个实验性的 Qwen 3.5 4B 模型,其权重中编译了一个功能完整、确定性运行的 RISC-V CPU。它利用模型自身的 Gated DeltaNet 层作为精确的 RAM,完全在前向传播过程中执行算术、C 语言和 MicroPython——无需任何工具或外部运行时。
有人在Qwen模型权重中直接构建了一台32位RISC-V CPU,使其能够在模型内部执行指令,这可能对工具调用和计算机操作能力产生影响。
Hugging Face 正在探索以约 130 亿美元估值出售,引发对开源模型政策可能变化的担忧,原因是第三方投资和盈利关注。
一位用户对 Meta 宣布开源 Muse Glimmer 以及即将推出的 Muse Spark 1.2 做出回应,称如果 Spark 1.2 采用 Apache 2.0 许可证且确实很出色,他就会道歉。
谷歌DeepMind的新论文SkillSmith将前缀键值缓存视为一种输入模态,在推理时把文本知识与现有权重组合成冻结的Gemma 3 4B模型的新前缀缓存,从而无需针对特定目标的训练运行即可改进适应能力。
谷歌DeepMind推出SkillSmith,将模型权重视为LLM可以原生推理的额外模态,从而实现指令引导的参数化合成,在推理时组合技能。该方法优于仅文本和仅权重的基线方法。
一篇将当今AI模型权重出口管制与1990年代密码战争进行对比的文章,援引OpenAI的封禁漏洞以及防御者使用中国开源权重模型的事例,主张限制措施反而损害安全。
Ernos Labs 推出一个免费的自托管存档,用于保存开放AI模型权重,强调去中心化和非单一实体所有。
NVIDIA 推出了 ModelExpress,该工具利用 GPU 到 GPU 的 RDMA 传输和优化的存储流式传输,加速了跨 GPU 集群的模型制品分发,将 DeepSeek-V4 Pro 等大型模型的启动时间从 8 分钟缩短至不到 2 分钟。
一位用户发推文说正在下载第二个 K3 模型的完整 FP16 权重并储存起来,开玩笑地让其他人别锁门。
IEEE Spectrum报道了高带宽闪存(HBF),这是一种新型内存技术,通过使用高带宽内存(HBM)封装技术堆叠NAND闪存芯片,大幅提升读取带宽,实现对LLM模型权重的高效存储。首批产品预计约一年内推出。
一种无需量化或重新训练即可从 GLM-5.2(753B 权重)中移除 423 GB 的技术,通过在 VRAM 中保持权重压缩状态实现逐比特精确压缩。
作者验证了Qwen3.6 27B模型权重从BF16转换为FP16不会导致数值溢出,并指出FP16尾数精度更高,解释了量化版本为何使用FP16而非保持BF16。
HASE 是一个强化学习框架,它在统一的智能体过程中协同进化模型权重、任务解决方案以及流程组件(引导与评估),使单个8B参数的模型在文本分类和阿尔法因子挖掘任务上能够匹配更大系统的性能。
LingBot-Vision引入了掩码边界建模用于自监督预训练,在1.1B参数下NYUv2线性探测上达到0.296 RMSE,而DINOv3-7B为0.309,虽然在ImageNet上表现稍逊;已发布四种尺寸的权重。