@BlinkDL_AI: RWKV-7 G1g 已发布:世界上最好的纯 RNN 大型语言模型,并且在整体上具有竞争力。尝试 https://huggingface.co/spaces/…
摘要
BlinkDL 宣布了 RWKV-7 G1g,一种纯 RNN 大型语言模型,声称是其同类中最好的,且与通用 LLM 竞争,在单个 RTX 5090 上具有高速推理性能。
查看缓存全文
缓存时间: 2026/05/23 20:11
RWKV-7 G1g 来了:世界最佳纯 RNN LLM,同时也是具有竞争力的通用 LLM。试试 https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-2… 以 bsz16 运行 7B 推理。G1h 将在六月推出。附:单张 5090 上解码速度超 15000+ tps:https://github.com/BlinkDL/Albatross…
RWKV-Gradio-2 - 一个由 BlinkDL 创建的 Hugging Face Space
来源:https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-2 正在从 HF Docker 仓库获取元数据……
BlinkDL (@BlinkDL_AI): RWKV-7 G1f 已发布(13B/7B/3B/1B),G1g 将在五月推出。附:Gemma 4 在“不可作弊评估”中表现优异,证实了其有效性 🙂 可惜没有 Qwen3.5 27B 基础版。
相似文章
RWKV是一种RNN,具有出色的LLM性能,并且像Transformer一样可并行化。
RWKV是一种新颖的语言模型架构,结合了RNN的高效性和Transformer的可并行化特性,以线性时间复杂度和恒定内存占用实现了强大的LLM性能。
@BlinkDL_AI:Gated DeltaNet-2 几乎就是 RWKV-7 的 DPLR 循环,却对房间里的大象视而不见
Ali Hatamizadeh 宣布了 Gated DeltaNet-2,一种新的线性注意力模型,在 1.3B 规模上优于 KDA 和 Mamba-3;@BlinkDL_AI 指出其循环与 RWKV-7 的 DPLR 几乎相同。
Show HN: Tiny-vLLM – 使用C++和CUDA的高性能LLM推理引擎
Tiny-vLLM是一个高性能的LLM推理引擎,采用C++和CUDA实现,提供连续批处理和PagedAttention等特性,并作为教育资源。
大语言模型与本地AI硬件的推理引擎(2026版)
本文提供了一份全面的指南,针对2026年本地AI硬件上的大语言模型推理引擎,解释了如何根据硬件策略、工作负载和服务模型进行选择,并涵盖了诸如llama.cpp、MLX、ExLlamaV2/3、vLLM、SGLang、TensorRT-LLM和NVIDIA Dynamo等引擎。
LiquidAI/LFM2.5-VL-3B · Hugging Face
LiquidAI releases LFM2.5-VL-3B, a 3B multimodal model for on-device deployment with improved OCR, grounding, and efficient inference, available in multiple formats including GGUF, ONNX, and MLX.