@ClementDelangue:来自 @thinkymachines 的 Inkling 2 Mini 登上 HF 热榜第一(来自 @UnslothAI 的 gguf 排名第二)。加油!
摘要
来自 Thinky Machines 的 Inkling 2 Mini 成为 Hugging Face 上的头号热门模型,由 Unsloth 推出的 GGUF 量化版本排名第二。
查看缓存全文
缓存时间: 2026/11/21 22:26
来自 @thinkymachines 的 Inkling 2 Mini 正在 Hugging Face 上登顶趋势榜第一(@UnslothAI 的 gguf 版本排名第二)。冲鸭!https://t.co/wFg1vl2xUa
相似文章
Thinking Machines 的 Inkling 现已成为美国排名第一的开放权重模型
Thinking Machines 的 Inkling 模型在美国开放权重模型中排名第一。
@ClementDelangue:HF上排名第一的热门模型是一个开源多语言系统1决策模型,就在Jev开始热门几天后…
Hugging Face上排名第一的热门模型是一个开源多语言系统1决策模型,突显了充满活力的开源AI社区。
@ClementDelangue:美国开源AI还没死呢 @thinkymachines 今天将以Apache 2.0发布Inkling 2 Mini,并在开源智能体模型中达到帕累托前沿……
Thinking Machines Lab 将发布 Inkling 2 Mini,这是一款紧凑的开放权重多模态模型(文本+图像转文本),采用 Apache 2.0 协议,面向智能体、编码和 RAG 应用,检查点大小约 20GB,可在消费级硬件上运行。
Inkling 2 Mini 在 RTX 4090 上使用 vLLM、FP8 + NVFP4 + 其内置草稿模型,速度约为 200 token/秒
Thinking Machines 的 Inkling 2 Mini 通过对 vLLM 进行少量补丁修改,在单张 RTX 4090 上达到了约 190–220 tok/s 的运行速度(开箱即用时约为 117 tok/s)。它采用 NVFP4 专家模型以及 FP8 注意力/KV,在 24 GB 显存中容纳了 35k 的上下文长度,困惑度仅劣化约 0.4%。
@samsja19:@thinkymachines 的出色工作,西方开源模型真的回来了,目前势头强劲,而且我知道还有许多模型即将发布,包括一两个新的 🦋
Thinking Machines 发布了 Inkling 2 Mini,这是一个拥有 26B 参数的循环 Transformer,可以在笔记本电脑上运行,同时在 AA Index 的智能体任务中获得 20.1 分,引发了关于西方开源模型复兴的热议。