granite

标签

Cards List
#granite

基于 Granite 4.2 3B 构建的 3.66B 形式逻辑模型 · Hugging Face

Reddit r/LocalLLaMA ↗ · 2026-10-10

webAI 发布了 TwIL LM3 Pro,一个基于 IBM Granite 4.2 3B、仅针对形式逻辑(如前提蕴含判断、规则归纳、Lean 证明批判)微调的 3.66B 模型,在逻辑复合基准上以不到一半的参数量追平 Qwen3-8B,并提供可在 CPU/4GB 显存上运行的 GGUF 量化版本。

0 人收藏 0 人点赞
#granite

IBM新款Granite 4.2模型乘势而上,引领本地大语言模型热潮

Ars Technica ↗ · 2026-08-26

IBM发布了Granite 4.2,这是一系列开放权重大语言模型,提供高达300亿参数的版本,配备128,000个token的上下文窗口,并采用代理强化学习以增强能力。

0 人收藏 0 人点赞
#granite

我对 PrismML 的 1-bit Bonsai-8B 与 IBM 的 Granite 在 CPU 工具调用上进行了基准测试。1-bit 模型胜出,但仅在语法约束解码下。

Reddit r/LocalLLaMA ↗ · 2026-07-02

对 PrismML 的 1-bit Bonsai-8B 与 IBM 的 Granite 及其他模型在 CPU 工具调用上的独立基准测试显示,在语法约束解码下,Bonsai-8B 的通过率达到 92%,超越了更大的模型,但在无约束条件下失败。Granite 是原始表现最好的模型,通过率为 72%。

0 人收藏 0 人点赞
#granite

新型消融算子 (apostate)

Reddit r/LocalLLaMA ↗ · 2026-06-22

介绍了一种名为apostate的新型对比消融算子,该算子将模型拒绝率从96%降低至5%,同时仅以0.081 KL散度保留无害行为,已在Granite 3.3-8B上测试。

0 人收藏 0 人点赞
#granite

模型:Granite4 Vision,作者 gabe-l-hart · 拉取请求 #23545 · ggml-org/llama.cpp

Reddit r/LocalLLaMA ↗ · 2026-06-05 缓存

此拉取请求为 llama.cpp(一个开源 LLM 推理引擎)增加了对 Granite4 Vision 模型的支持。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈