Ornith-1.5 DFlash

Reddit r/LocalLLaMA 模型
ai-model speculative-decoding dflash ornith-1-5 open-source hugging-face

摘要

Ornith-1.5 模型集成了用于推测解码的 DFlash 草稿模型，已在 Hugging Face 上发布，提供 9B、397B 和 35B-A3B 尺寸。

Ornith-1.5-9B-DFlash 将 Ornith-1.5-9B 模型与 DFlash 草稿模型配对，用于推测解码。 https://huggingface.co/ornith-ai/Ornith-1.5-9B-DFlash Ornith-1.5-397B-DFlash 将 Ornith-1.5-397B 模型与 DFlash 草稿模型配对，用于推测解码。 https://huggingface.co/ornith-ai/Ornith-1.5-397B-DFlash Ornith-1.5-35B-A3B-DFlash 将 Ornith-1.5-35B-A3B 模型与 DFlash 草稿模型配对，用于推测解码。 https://huggingface.co/ornith-ai/Ornith-1.5-35B-A3B-DFlash
查看原文

相似文章

Ornith-1.0 在 Hugging Face 上发布

Reddit r/LocalLLaMA

Ornith-1.0 已在 Hugging Face 上发布，包含一系列模型，参数范围从 9B 到 397B，涵盖密集和 MoE 架构，声称在各项基准测试中达到 SOTA 性能。