模型

Cards List

Inkling 2 Mini 在 CyberBench 上与 Opus 5.5 并列(@ValsAI)

Reddit r/LocalLLaMA ↗ · 2小时前

根据 ValsAI 的结果,Inkling 2 Mini 在 CyberBench 基准测试中的表现与 Opus 5.5 相当。

0 人收藏 0 人点赞

Inkling 2 mini 无删减版

Reddit r/LocalLLaMA ↗ · 2小时前 缓存

OpenUncensored 发布了 Inkling 2 Mini Uncensored,这是 Thinking Machines 的 260 亿参数 MoE 模型经过拒答消融的版本,移除了拒答行为,同时保持了 MMLU 性能(78.95% → 79.47%),可通过 Hugging Face、兼容 OpenAI 的 API 和浏览器交互体验平台使用。

0 人收藏 0 人点赞

全新超小开源权重模型 Inkling 2 Mini 几乎追平 Gemini 2.5 Pro

Reddit r/singularity ↗ · 3小时前

超小开源权重模型 Inkling 2 Mini 仅需约 16-20 GB 内存即可本地运行,据报道在多项基准测试(包括 SWE-bench Verified 和 ARC-AGI)中超越云端旗舰模型 Gemini 2.5 Pro,展现了紧凑型模型能力的飞速进步。

0 人收藏 0 人点赞

例行给 Inkling 2 Mini 造势的帖子

Reddit r/LocalLLaMA ↗ · 4小时前

一篇为即将推出的 Inkling 2 Mini 模型造势的帖子,暗示经过量化后,它可以在配备 8 GB 显存和 16 GB 内存的消费级硬件上流畅运行。

0 人收藏 0 人点赞

@julien_c:$ llama serve -hf ggml-org/Inkling-2-Mini-GGUF:IQ4_NL

X AI KOLs Following ↗ · 5小时前 缓存

一条推文,展示了使用 llama.cpp 的 `llama serve` 从 ggml-org 加载 Inkling-2-Mini 的量化 GGUF 构建(IQ4_NL)的一行命令。

0 人收藏 0 人点赞

@ClementDelangue:美国开源AI还没死呢 @thinkymachines 今天将以Apache 2.0发布Inkling 2 Mini,并在开源智能体模型中达到帕累托前沿……

X AI KOLs Following ↗ · 5小时前 缓存

Thinking Machines Lab 将发布 Inkling 2 Mini,这是一款紧凑的开放权重多模态模型(文本+图像转文本),采用 Apache 2.0 协议,面向智能体、编码和 RAG 应用,检查点大小约 20GB,可在消费级硬件上运行。

0 人收藏 0 人点赞

Inkling 2 Mini

Hacker News Top ↗ · 5小时前 缓存

Thinking Machines 发布 Inkling 2 Mini,这是一个总参数 26.4B、激活参数 3.4B 的开放权重 Mixture-of-Experts 循环 Transformer(looped transformer),可在笔记本上以约 20GB 内存运行,并在 DeepSWE v1.1 等 agentic coding 基准测试中领跑 100B 以下模型。同时发布的还有一个研究用的 variable-loop 变体,用于研究可监控性(monitorability),结果显示其在无 CoT 情况下的时间跨度有所提升,且思维链清晰可读,同时未增加破坏(sabotage)倾向。

0 人收藏 0 人点赞

8GB 显存运行 Qwen 27b:200k 上下文,92.5% 的 Top-1 匹配率,LCB 上与 BF16 的差距在 10% 以内,基准测试得分比 9b 高 17%

Reddit r/LocalLLaMA ↗ · 6小时前

LlamAmpere 负责人发布了可在 8GB 显卡上运行的 Qwen3.8 27b 超低比特量化模型(2.1bpw/1.75bpw trellis 格式),借助潜在稀疏注意力与 SJKVaRN 技术实现 200k 上下文与 92.5% Top-1 匹配率,性能接近 BF16 且比 9b 模型高出 17% 基准分,为 8GB 显卡用户带来显著能力跃升。

0 人收藏 0 人点赞

CCORE-Web-Coder-4B 预览版刚刚发布:一个拥有 40 亿参数的本地模型,可将完整的网站、幻灯片或信息图生成为单个 HTML 文件

Reddit r/LocalLLaMA ↗ · 6小时前

CCORE-Web-Coder-4B 预览版检查点已发布。这是一款基于 Qwen3.5-4B-Base 的 40 亿参数本地模型,可将完整网站、幻灯片或信息图生成为单个 HTML 文件,正式版计划于 11 月 22 日发布。

0 人收藏 0 人点赞

Nvidia 最新的 QAD 27B 模型看起来不错。我刚把它和 Nvidia 的版本(使用 Peculiar Ragdoll 聊天模板)以及 Unsloth 的 NVFP4 版本做了对比。

Reddit r/LocalLLaMA ↗ · 8小时前 缓存

一位用户反馈 Nvidia 最新的 QAD 27B 模型表现出色,并使用并排模型对比工具,将其与 Nvidia 的量化版本(采用 Peculiar Ragdoll 聊天模板)以及 Unsloth 的 NVFP4 变体进行了比较。

0 人收藏 0 人点赞

@Google:我们将 Gemini 3.5 Transcribe 的语音编辑能力——也就是驱动 Gboard 上 Rambler 和 @GeminiAp… 的同一项技术——引入 Gemini API

X AI KOLs Following ↗ · 8小时前 缓存

Google 正在将 Gemini 3.5 Transcribe 的语音编辑能力——即驱动 Gboard 上 Rambler 和 macOS 上 Gemini 应用的同一项技术——引入 Gemini API,让开发者能够构建这样一种体验:用户可以通过语音自然地编辑、改写和翻译文本。

0 人收藏 0 人点赞

Unsloth 正准备发布 4 个新模型

Reddit r/LocalLLaMA ↗ · 9小时前 缓存

Unsloth 推出 Dynamic v3.1 与 v3.0 新型 SOTA 量化算法,并准备发布 4 个新模型,在 Terminal Bench、DeepSWE 等基准上以 512K 上下文表现最佳。

0 人收藏 0 人点赞

Qwen3.8-27B“超级适配器”:一个 rank-96 LoRA 同时提升 3 种智能体框架的表现(SWE-Bench Pro 平均得分从 55% → 63%,工具调用次数最多减少 53–73%)

Reddit r/LocalLLaMA ↗ · 10小时前

Qwen3.8-27B 上的一个秩为 96 的 LoRA 超级适配器,通过以近乎正交的方式叠加三个智能体运行框架的微调权重,同时提升 Hermes Agent、OpenCode 和 pi 的表现(SWE-Bench Pro 平均得分从 55% 提升至 63%,工具调用减少 53–73%),并附带完整训练方案。

0 人收藏 0 人点赞

@kyutai_labs:认识 AURA——为你的语音 AI 赋予一张脸。实时生成。单 GPU 即可运行。挑选一张脸(或上传你自己的),开始对话,然后……

X AI KOLs Following ↗ · 11小时前 缓存

Kyutai Labs 推出 AURA——一个面向语音 AI 的实时人脸/虚拟形象,可在单 GPU 上实时生成口型同步的视频,并将开源整个技术栈。

0 人收藏 0 人点赞

@heyshrutimishra:腾讯刚刚把一个 770B 模型的权重上传到了 Hugging Face,可免费下载。它叫 hy4,是他们新的旗舰模型。4…

X AI KOLs Following ↗ · 11小时前 缓存

腾讯发布了 HY4 的开放权重,这是一个 770B 多模态旗舰模型,每个 token 激活 49B 参数,上下文长度为 1M token,包括 instruct、FP8 和 base 三种变体。模型卡片还描述了 HY4 自主训练出一个变体并超越了他们的基线,这与 DeepSeek、Kimi 和 GLM 的发布一起,进一步缩小了开放与闭源之间的差距。

0 人收藏 0 人点赞

我们更新了 Hy4-flash 的量化版本:发布 MLX 版本,并改进 GGUF 版本

Reddit r/LocalLLaMA ↗ · 12小时前 缓存

nace-ai 更新了其针对腾讯 Hy4 模型系列的量化合集,新增了 MLX 版本,并为 Hy4-flash 和规模更大的 Hy4 模型提供了多种位宽(3.1 位至 4.6 位)的改进版 GGUF 量化模型。

0 人收藏 0 人点赞

@mingzi206: 现在的本地小模型已经卷到这种程度了? 体积不到 7GB 的 Qwen3.5-9B 魔改版,作者跑分全线压过原版 27B,而且拒答率从 100/100 直接砍到了 6/100。 模型全名长得像通关密码:Qwen3.5-9B-The-Defi…

X AI KOLs Timeline ↗ · 14小时前 缓存

本地小模型魔改版 Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic 发布:体积不到 7GB,跑分反超原版 27B,拒答率大幅下降,速度提升 40%+,可在消费级硬件本地部署。

0 人收藏 0 人点赞

@AdinaYakup:Hy4 的权重现已在 Hub 上发布 https://huggingface.co/tencent/Hy4 - 770B/49B - 1M 上下文 - 自定义许可协议 …

X AI KOLs Timeline ↗ · 15小时前 缓存

腾讯 Hy4 MoE 旗舰模型权重已在 Hugging Face 上发布,具备 770B 总参数/49B 激活参数、1M 上下文、多模态图文视频理解能力,并通过 DFly2 投机解码优化推理性能。

0 人收藏 0 人点赞

Hy4-770B-A49B · Hugging Face

Reddit r/singularity ↗ · 15小时前

腾讯发布了 Hy4 的权重,这是其原生多模态旗舰 MoE 模型(总参数 770B,激活参数 49B),现已上线 Hugging Face。

0 人收藏 0 人点赞

WeMM-Video by Tencent(2B、4B、9B、35B-A3B)

Reddit r/LocalLLaMA ↗ · 15小时前 缓存

Tencent 在 Hugging Face 上发布了 WeMM-Video 多模态模型家族,提供 2B、4B、9B 和 35B-A3B 版本,以及 FP8、AWQ、GGUF 和 NVFP4 量化版本,便于高效部署。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈